Овај водич ће илустровати процес покретања ЛЛМЦхаинс-а у ЛангЦхаин-у.
Како покренути ЛЛМЦхаинс у ЛангЦхаин-у?
ЛангЦхаин пружа функције или зависности за прављење ЛЛМЦхаинс-а користећи ЛЛМ/четботе и шаблоне упита. Да бисте научили процес прављења и покретања ЛЛМЦхаинс-а у ЛангЦхаин-у, једноставно следите следећи корак по корак:
Корак 1: Инсталирајте пакете
Прво, започните са процесом инсталирањем ЛангЦхаин модула да бисте добили његове зависности за изградњу и покретање ЛЛМЦхаинс-а:
пип инсталл лангцхаин
Инсталирајте ОпенАИ оквир користећи команду пип да бисте натерали библиотеке да користе ОпенАИ() функцију за прављење ЛЛМ-ова:
пип инсталл опенаи
Након инсталације модула, једноставно поставити окружење променљиве користећи АПИ кључ са ОпенАИ налога:
увоз ти
увоз гетпасс
ти . Приближно [ „ОПЕНАИ_АПИ_КЕИ“ ] = гетпасс . гетпасс ( „ОпенАИ АПИ кључ:“ )
Корак 2: Увезите библиотеке
Када се подешавање заврши и инсталирају сви потребни пакети, увезите потребне библиотеке за прављење шаблона упита. Након тога, једноставно направите ЛЛМ користећи ОпенАИ() метод и конфигуришите ЛЛМЦхаин помоћу ЛЛМ-а и шаблона упита:
из лангцхаин увоз ПромптТемплатеиз лангцхаин увоз ОпенАИ
из лангцхаин увоз ЛЛМЦхаин
промпт_темплате = „дајте ми добар наслов за посао који производи {продуцт}?“
ллм = ОпенАИ ( температура = 0 )
ллм_цхаин = ЛЛМЦхаин (
ллм = ллм ,
промпт = ПромптТемплате. фром_темплате ( промпт_темплате )
)
ллм_цхаин ( 'шарена одећа' )
Корак 3: Трчање ланаца
Набавите улазну листу која садржи различите производе које производи предузеће и покрените ланац да бисте приказали листу на екрану:
инпут_лист = [{ 'производ' : 'чарапе' } ,
{ 'производ' : 'рачунар' } ,
{ 'производ' : 'ципеле' }
]
ллм_цхаин. применити ( инпут_лист )
Покрените метод генерате() користећи инпут_лист са ЛЛМЦхаинс-ом да бисте добили излаз који се односи на разговор који је генерисао модел:
ллм_цхаин. Генериши ( инпут_лист )
Корак 4: Коришћење једног улаза
Додајте још један производ за покретање ЛЛМЦхаинс-а користећи само један улаз, а затим предвидите да ће ЛЛМЦхаин генерисати излаз:
ллм_цхаин. предвидети ( производ = 'шарене чарапе' )Корак 5: Коришћење вишеструких улаза
Сада направите шаблон за коришћење вишеструких улаза за пружање команде моделу пре покретања ланца:
шаблон = '''Испричај ми {придев} виц о {субјект}.'''промпт = ПромптТемплате ( шаблон = шаблон , инпут_вариаблес = [ 'придев' , 'предмет' ] )
ллм_цхаин = ЛЛМЦхаин ( промпт = промпт , ллм = ОпенАИ ( температура = 0 ) )
ллм_цхаин. предвидети ( придев = 'тужан' , предмет = 'патке' )
Корак 6: Коришћење излазног парсера
Овај корак користи метод парсера излаза за покретање ЛЛМЦхаин-а да би добио излаз на основу упита:
из лангцхаин. оутпут_парсерс увоз ЦоммаСепаратедЛистОутпутПарсероутпут_парсер = ЦоммаСепаратедЛистОутпутПарсер ( )
шаблон = '''Наброј све боје у дуги'''
промпт = ПромптТемплате ( шаблон = шаблон , инпут_вариаблес = [ ] , оутпут_парсер = оутпут_парсер )
ллм_цхаин = ЛЛМЦхаин ( промпт = промпт , ллм = ллм )
ллм_цхаин. предвидети ( )
Коришћење методе парсе() за добијање излаза ће генерисати листу свих боја дуге раздвојене зарезима:
ллм_цхаин. предицт_анд_парсе ( )
Корак 7: Иницијализација из стрингова
Овај корак објашњава процес коришћења стринга као упита за покретање ЛЛМЦхаин-а користећи ЛЛМ модел и шаблон:
шаблон = '''Испричај ми {придев} виц о {предмет}'''ллм_цхаин = ЛЛМЦхаин. фром_стринг ( ллм = ллм , шаблон = шаблон )
Наведите вредности променљивих у стринг промпту да бисте добили излаз из модела покретањем ЛЛМЦхаин:
ллм_цхаин. предвидети ( придев = 'тужан' , предмет = 'патке' )То је све о покретању ЛЛМЦхаинс-а користећи ЛангЦхаин оквир.
Закључак
Да бисте направили и покренули ЛЛМЦхаинс у ЛангЦхаин-у, инсталирајте предуслове као што су пакети и подесите окружење користећи ОпенАИ АПИ кључ. Након тога, увезите потребне библиотеке за конфигурисање шаблона упита и модела за покретање ЛЛМЦхаин-а користећи ЛангЦхаин зависности. Корисник може да користи излазне парсере и стринг команде за покретање ЛЛМЦхаинс-а као што је приказано у водичу. Овај водич је разрадио комплетан процес покретања ЛЛМЦхаинс-а у ЛангЦхаин-у.