Како користити ЛангЦхаин ЛЛМЦхаин функцију у Питхон-у

Ланци не раде само за један ЛЛМ позив; они су колекције позива, било ка ЛЛМ-у или неком другом услужном програму. ЛангЦхаин обезбеђује ланце од краја до краја за широко коришћене апликације заједно са стандардним АПИ-јем за ланац и бројним интеграцијама алата.

Флексибилност и способност повезивања више елемената у један ентитет могу бити корисни када желимо да дизајнирамо ланац који прихвата унос корисника, поставља га помоћу ПромптТемплате-а, а затим испоручује генерисани резултат ЛЛМ-у.

Овај чланак вам помаже да схватите употребу функције ЛангЦхаин ЛЛМцхаин у Питхон-у.

Пример: Како користити ЛЛМцхаин функцију у ЛангЦхаин-у

Разговарали смо о томе шта су ланци. Сада ћемо видети практичну демонстрацију ових ланаца који су имплементирани у Питхон скрипту. У овом примеру користимо најосновнији ЛангЦхаин ланац који је ЛЛМцхаин. Садржи ПромптТемплате и ЛЛМ, и повезује их заједно да би генерисала излаз.

Да бисмо почели да имплементирамо концепт, морамо да инсталирамо неке потребне библиотеке које нису укључене у стандардну библиотеку Питхон-а. Библиотеке које треба да инсталирамо су ЛангЦхаин и ОпенАИ. Инсталирамо ЛангЦхаин библиотеку јер морамо да користимо њен ЛЛМцхаин модул као и ПромптТемплате. ОпенАИ библиотека нам омогућава да користимо ОпенАИ моделе за предвиђање излаза, тј. ГПТ-3.

Да бисте инсталирали библиотеку ЛангЦхаин, покрените следећу команду на терминалу:

Инсталирајте ОпенАИ библиотеку са следећом командом:

Када су инсталације завршене, можемо да почнемо да радимо на главном пројекту.

Главни пројекат почиње увозом потребних модула. Дакле, прво увозимо ПромптТемплате из библиотеке „лангцхаин.промптс“. Затим увозимо ОпенАИ из библиотеке „лангцхаин.ллмс“. Затим увозимо „ос“ да бисмо поставили променљиву окружења.

У почетку смо поставили ОпенАИ АПИ кључ као променљиву окружења. Променљива окружења је променљива која се састоји од имена и вредности и постављена је на нашем оперативном систему. „ос.енвирон“ је објекат који се користи за мапирање променљивих окружења. Дакле, зовемо „ос.енвирон“. Име које смо поставили за АПИ кључ је ОПЕНАИ_АПИ_КЕИ. Затим додељујемо АПИ кључ као његову вредност. АПИ кључ је јединствен за сваког корисника. Дакле, када вежбате ову скрипту кода, напишите свој тајни АПИ кључ.

Сада када је кључ постављен као променљива окружења, иницијализујемо омотач. Подесите температуру за ОпенАИ ГПТ моделе. Температура је карактеристика која нам помаже да одредимо колико ће одговор бити непредвидив. Што је већа вредност температуре, одговори су неправилнији. Овде смо поставили вредност температуре на 0,9. Тако добијамо највише случајних резултата.

Затим иницијализујемо класу ПромптТемплате. Када користимо ЛЛМ, генеришемо промпт од уноса који је узет од корисника и затим га прослеђујемо ЛЛМ-у уместо да шаљемо улаз директно ЛЛМ-у који захтева чврсто кодирање (промпт је улаз који смо преузели од корисника и на који дефинисани АИ модел треба да креира одговор). Дакле, иницијализујемо ПромптТемплате. Затим, унутар витичастих заграда, дефинишемо инпут_вариабле као „Производи“, а текст шаблона је „Како би се назвао бренд који продаје {производе}?“ Кориснички унос говори шта бренд ради. Затим форматира промпт на основу ових информација.

Сада када је наш ПромптТемплате форматиран, следећи корак је да направите ЛЛМцхаин. Прво увезите ЛЛМцхаин модул из библиотеке „лангцхаин.цхаин“. Затим креирамо ланац позивањем функције ЛЛМцхаин() која узима кориснички унос и са њим форматира промпт. На крају, шаље одговор ЛЛМ-у. Дакле, повезује ПромптТемплате и ЛЛМ.

Да бисмо извршили ланац, позивамо метод цхаин.рун() и обезбеђујемо кориснички унос као параметар који је дефинисан као „Арт Супплиес“. Затим ову методу прослеђујемо функцији Питхон принт() да прикажемо предвиђени исход на Питхон конзоли.

АИ модел чита промпт и даје одговор на основу њега.

Пошто смо тражили да именујемо бренд који продаје уметнички материјал, предвиђено име модела АИ се може видети на следећем снимку:

Овај пример нам показује ЛЛМцхаининг када је дата једна улазна променљива. Ово је такође могуће када се користи више променљивих. За то једноставно морамо да направимо речник променљивих да бисмо их унели у целини. Хајде да видимо како ово функционише:

Код је исти као у претходном примеру, осим што морамо да проследимо две променљиве у класи шаблона промпта. Дакле, направите речник инпут_вариаблес. Дуге заграде представљају речник. Овде имамо две варијабле – „Бренд“ и „Производ“ – које су одвојене зарезом. Сада, текст шаблона који пружамо је „Како би се звао {Бренд} који продаје {Производ}?“ Дакле, АИ модел предвиђа име које се фокусира на ове две улазне варијабле.

Затим креирамо ЛЛМцхаин који форматира кориснички унос са упитом да пошаље одговор ЛЛМ-у. Да бисмо покренули овај ланац, користимо метод цхаин.рун() и прослеђујемо речник променљивих са корисничким уносом као „Бренд“: „Уметнички прибор“ и „Производ“ као „Боје“. Затим ову методу прослеђујемо функцији Питхон принт() да прикажемо добијени одговор.

Излазна слика приказује предвиђени резултат:

Закључак

Ланци су грађевински блокови ЛангЦхаина. Овај чланак говори о концепту коришћења ЛЛМцхаина у ЛангЦхаин-у. Направили смо увод у ЛЛМцхаин и приказали потребу да их запослимо у Питхон пројекту. Затим смо извели практичну илустрацију која показује имплементацију ЛЛМцхаина повезивањем ПромптТемплате-а и ЛЛМ-а. Можете креирати ове ланце са једном улазном променљивом, као и са више варијабли које даје корисник. Такође су дати и генерисани одговори из ГПТ модела.