ЛангЦхаин је оквир који се може користити за увоз библиотека и зависности за изградњу великих језичких модела или ЛЛМ-ова. Језички модели користе меморију за складиштење података или историје у бази података као посматрање да би добили контекст разговора. Меморија је конфигурисана да чува најновије поруке тако да модел може да разуме двосмислене упите које даје корисник.
Овај блог објашњава процес коришћења меморије у ЛЛМЦхаин-у преко ЛангЦхаин-а.
Како користити меморију у ЛЛМЦхаин-у преко ЛангЦхаин-а?
Да бисте додали меморију и користили је у ЛЛМЦхаин-у преко ЛангЦхаин-а, библиотека ЦонверсатионБуфферМемори се може користити тако што ћете је увести из ЛангЦхаин-а.
Да бисте научили процес коришћења меморије у ЛЛМЦхаин-у преко ЛангЦхаин-а, прођите кроз следећи водич:
Корак 1: Инсталирајте модуле
Прво, започните процес коришћења меморије инсталирањем ЛангЦхаин-а помоћу команде пип:
пип инсталл лангцхаин
Инсталирајте ОпенАИ модуле да бисте добили његове зависности или библиотеке за прављење ЛЛМ-ова или модела ћаскања:
пип инсталл опенаи
Подесите окружење за ОпенАИ користећи свој АПИ кључ увозом ос и гетпасс библиотека:
увози насимпорт гетпасс
ос.енвирон['ОПЕНАИ_АПИ_КЕИ'] = гетпасс.гетпасс('ОпенАИ АПИ кључ:')
Корак 2: Увоз библиотека
Након подешавања окружења, једноставно увезите библиотеке као што је ЦонверсатионБуфферМемори из ЛангЦхаин-а:
фром лангцхаин.цхаинс импорт ЛЛМЦхаиниз лангцхаин.ллмс импорт ОпенАИ
из лангцхаин.мемори импорт ЦонверсатионБуфферМемори
из лангцхаин.промптс импорт ПромптТемплате
Конфигуришите шаблон за промпт користећи променљиве као што су „инпут“ да бисте добили упит од корисника и „хист“ за чување података у меморији бафера:
темплате = '''Ви сте модел који разговара са човеком{хист}
Човек: {инпут}
Цхатбот:'''
промпт = ПромптТемплате(
инпут_вариаблес=['хист', 'инпут'], темплате=темплате
)
меморија = ЦонверсатионБуфферМемори(мемори_кеи='хист')
Корак 3: Конфигурисање ЛЛМ
Када је шаблон за упит направљен, конфигуришите метод ЛЛМЦхаин() користећи више параметара:
ллм = ОпенАИ()ллм_цхаин = ЛЛМЦхаин(
ллм=ллм,
промпт=промпт,
вербосе=Тачно,
меморија=сећање,
)
Корак 4: Тестирање ЛЛМЦхаина
Након тога, тестирајте ЛЛМЦхаин користећи улазну променљиву да бисте добили промпт од корисника у текстуалном облику:
ллм_цхаин.предицт(инпут='Здраво пријатељу мој') 
Користите други улаз да добијете податке ускладиштене у меморији за издвајање излаза користећи контекст:
ллм_цхаин.предицт(инпут='Добро! Ја сам добро - како си') 
Корак 5: Додавање меморије у модел ћаскања
Меморија се може додати у ЛЛМЦхаин заснован на моделу ћаскања увозом библиотека:
фром лангцхаин.цхат_моделс импорт ЦхатОпенАИиз лангцхаин.сцхема импорт СистемМессаге
из лангцхаин.промптс импорт ЦхатПромптТемплате, ХуманМессагеПромптТемплате, МессагесПлацехолдер
Конфигуришите шаблон упита користећи ЦонверсатионБуфферМемори() користећи различите варијабле да бисте подесили унос од корисника:
промпт = ЦхатПромптТемплате.фром_мессагес([СистемМессаге(цонтент='Ви сте модел који разговара са човеком'),
МессагесПлацехолдер(вариабле_наме='хист'),
ХуманМессагеПромптТемплате.фром_темплате('{инпут}'),
])
меморија = ЦонверсатионБуфферМемори(мемори_кеи='хист', ретурн_мессагес=Тачно)
Корак 6: Конфигурисање ЛЛМЦхаин-а
Подесите метод ЛЛМЦхаин() да бисте конфигурисали модел користећи различите аргументе и параметре:
ллм = ЦхатОпенАИ()цхат_ллм_цхаин = ЛЛМЦхаин(
ллм=ллм,
промпт=промпт,
вербосе=Тачно,
меморија=сећање,
)
Корак 7: Тестирање ЛЛМЦхаина
На крају, једноставно тестирајте ЛЛМЦхаин користећи улаз како би модел могао да генерише текст према промпту:
цхат_ллм_цхаин.предицт(инпут='Здраво пријатељу мој') 
Модел је сачувао претходни разговор у меморији и приказује га пре стварног излаза упита:
ллм_цхаин.предицт(инпут='Добро! Ја сам добро - како си') 
То је све о коришћењу меморије у ЛЛМЦхаин-у користећи ЛангЦхаин.
Закључак
Да бисте користили меморију у ЛЛМЦхаин-у преко ЛангЦхаин оквира, једноставно инсталирајте модуле да бисте подесили окружење за добијање зависности од модула. Након тога, једноставно увезите библиотеке из ЛангЦхаин-а да бисте користили бафер меморију за чување претходног разговора. Корисник такође може да дода меморију моделу ћаскања тако што ће изградити ЛЛМЦхаин и затим тестирати ланац пружањем улаза. Овај водич је разрадио процес коришћења меморије у ЛЛМЦхаин-у преко ЛангЦхаин-а.