ЛангЦхаин је оквир за изградњу модела ћаскања и ЛЛМ-а за добијање информација из скупа података или интернета користећи ОпенАИ окружење. Парсер структурисаног излаза се користи за добијање више поља или одговора као што је стварни одговор и неке додатне повезане информације. Библиотеке анализатора излаза се могу користити са ЛангЦхаин-ом за издвајање података користећи моделе направљене као ЛЛМ или модели ћаскања.
Овај пост је демонстрирао процес коришћења парсера структурисаног излаза у ЛангЦхаин-у.
Како користити парсер структурираног излаза у ЛангЦхаин-у?
Да бисте користили парсер структурисаног излаза у ЛангЦхаин-у, једноставно прођите кроз ове кораке:
Корак 1: Инсталирајте предуслове
Започните процес инсталирањем ЛангЦхаин оквира ако већ није инсталиран у вашем Питхон окружењу:
пип инсталирај лангцхаин
Инсталирајте ОпенАИ оквир да бисте приступили његовим методама за прављење парсера у ЛангЦхаин-у:
пип инсталирај опенаи
Након тога, једноставно се повежите са ОпенАИ окружењем користећи његов АПИ кључ да бисте приступили његовом окружењу користећи „ ти ” библиотеку и обезбеди АПИ кључ користећи „ гетпасс ” библиотека:
увози насимпорт гетпасс
ос.енвирон [ 'ОПЕНАИ_АПИ_КЕИ' ] = гетпасс.гетпасс ( „ОпенАИ АПИ кључ:“ )
Корак 2: Направите шему за излаз/одговор
Након успостављања везе са ОпенАИ, једноставно увезите библиотеке да бисте направили шему за генерисање излаза:
из лангцхаин.оутпут_парсерс импорт СтруцтуредОутпутПарсер, РеспонсеСцхемаиз лангцхаин.промптс импорт ПромптТемплате, ЦхатПромптТемплате, ХуманМессагеПромптТемплате
из лангцхаин.ллмс импорт ОпенАИ
фром лангцхаин.цхат_моделс импорт ЦхатОпенАИ
Наведите шему за одговор према захтеву тако да модел треба да генерише одговор у складу са тим:
респонсе_сцхемас = [РеспонсеСцхема ( име = 'одговор' , Опис = 'одговор на упит' ) ,
РеспонсеСцхема ( име = 'извор' , Опис = „извор веб сајта који се користи за добијање одговора“ )
]
оутпут_парсер = СтруцтуредОутпутПарсер.фром_респонсе_сцхемас ( респонсе_сцхемас )
Корак 3: Форматирајте шаблон
Након што конфигуришете шему за излаз, једноставно поставите шаблон за унос на природном језику како би модел могао да разуме питања пре него што преузме одговор за њега:
формат_инструцтионс = оутпут_парсер.гет_формат_инструцтионс ( )промпт = ПромптТемплате (
шаблон = „Одговорите на питање корисника. \н {темплате} \н {куери}' ,
инпут_вариаблес = [ 'упит' ] ,
делимичне_променљиве = { 'шаблон' : формат_инструцтионс }
)
Метод 1: Коришћење језичког модела
Након конфигурисања шаблона формата за питања и одговоре, једноставно направите модел користећи ОпенАИ() функцију:
модел = ОпенАИ ( температура = 0 )
Поставите упит у „ упит ” променљиву и проследите је у формат_промпт() функционише као улаз, а затим похрани одговор у „ излаз ' променљива:
_инпут = промпт.формат_промпт ( упит = 'колико је континената на свету' )излаз = модел ( _инпут.то_стринг ( ) )
Звати парсе() функција са излазном променљивом као аргументом да бисте добили одговор из модела:
оутпут_парсер.парсе ( излаз )
Излазни парсер добија одговор на упит и приказује детаљан одговор са везом до странице веб локације која се користи за добијање одговора:
Метод 2: Коришћење модела ћаскања
Да бисте добили резултате из излазног парсера у ЛангЦхаин-у, користите цхат_модел променљива испод:
цхат_модел = ЦхатОпенАИ ( температура = 0 )
Да бисте разумели упит, конфигуришите шаблон упита за модел ћаскања. Затим генеришете одговор према уносу:
промпт = ЦхатПромптТемплате (поруке = [
ХуманМессагеПромптТемплате.фром_темплате ( „Одговорите на питање корисника. \н {формат_инструцтионс} \н {куери}' )
] ,
инпут_вариаблес = [ 'упит' ] ,
делимичне_променљиве = { 'формат_инструцтионс' : формат_инструцтионс }
)
Након тога, једноставно унесите унос у „ упит ” променљиву, а затим је проследите у цхат_модел() функција за добијање излаза из модела:
_инпут = промпт.формат_промпт ( упит = 'САД се залаже за' )излаз = цхат_модел ( _инпут.то_мессагес ( ) )
Да бисте добили одговор од модела ћаскања, користите оутпут_парсер који чува резултат из „ излаз ' променљива:
оутпут_парсер.парсе ( излаз.садржај )
Модел ћаскања је приказао одговор на упит и назив веб странице која се користи за добијање одговора са интернета:
То је све о коришћењу структурираног излазног парсера у ЛангЦхаин-у.
Закључак
Да бисте користили парсер структурисаног излаза у ЛангЦхаин-у, једноставно инсталирајте ЛангЦхаин и ОпенАИ модуле да бисте започели процес. Након тога, повежите се са ОпенАИ окружењем користећи његов АПИ кључ, а затим конфигуришите шаблоне упита и одговора за модел. Излазни парсер се може користити или са моделом језика или са моделом ћаскања. Овај водич објашњава употребу излазног парсера са обе методе.