Куицк Оутлине
Овај пост садржи следеће одељке:
- Како користити Асинц АПИ агент у ЛангЦхаин-у
- Метод 1: Коришћење серијског извршавања
- Метод 2: Коришћење истовременог извршавања
- Закључак
Како користити Асинц АПИ агента у ЛангЦхаин-у?
Модели ћаскања истовремено обављају више задатака као што су разумевање структуре упита, његове сложености, издвајање информација и још много тога. Коришћење Асинц АПИ агента у ЛангЦхаин-у омогућава кориснику да изгради ефикасне моделе ћаскања који могу да одговоре на више питања у исто време. Да бисте научили процес коришћења Асинц АПИ агента у ЛангЦхаин-у, једноставно следите овај водич:
Корак 1: Инсталирање оквира
Пре свега, инсталирајте оквир ЛангЦхаин да бисте добили његове зависности од Питхон менаџера пакета:
пип инсталл лангцхаин
Након тога, инсталирајте ОпенАИ модул да бисте направили модел језика као што је ллм и подесите његово окружење:
пип инсталл опенаи
Корак 2: ОпенАИ окружење
Следећи корак након инсталације модула је постављање средине користећи ОпенАИ-ов АПИ кључ и Серпер АПИ да тражите податке са Гоогле-а:
увоз ти
увоз гетпасс
ти . Приближно [ „ОПЕНАИ_АПИ_КЕИ“ ] = гетпасс . гетпасс ( „ОпенАИ АПИ кључ:“ )
ти . Приближно [ „СЕРПЕР_АПИ_КЕИ“ ] = гетпасс . гетпасс ( „Серпер АПИ кључ:“ )
Корак 3: Увоз библиотека
Сада када је окружење подешено, једноставно увезите потребне библиотеке као што су асинцио и друге библиотеке користећи ЛангЦхаин зависности:
из лангцхаин. агенти увоз иницијализовати_агент , лоад_тоолсувоз време
увоз асинцио
из лангцхаин. агенти увоз АгентТипе
из лангцхаин. ллмс увоз ОпенАИ
из лангцхаин. повратни позиви . стдоут увоз СтдОутЦаллбацкХандлер
из лангцхаин. повратни позиви . трагачи увоз ЛангЦхаинТрацер
из аиохттп увоз ЦлиентСессион
Корак 4: Питања за подешавање
Подесите скуп података питања који садржи више упита у вези са различитим доменима или темама које се могу претраживати на интернету (Гоогле):
питања = [„Ко је победник Отвореног првенства САД 2021.“ ,
'Колико година има дечко Оливије Вајлд' ,
„Ко је освајач светске титуле у формули 1“ ,
„Ко је победио у женском финалу УС Опена 2021.“ ,
'Ко је Бијонсин муж и колико има година' ,
]
Метод 1: Коришћење серијског извршавања
Када су сви кораци завршени, једноставно извршите питања да бисте добили све одговоре помоћу серијског извршавања. То значи да ће се једно питање извршавати/приказује у исто време и такође ће вратити комплетно време потребно за извршавање ових питања:
ллм = ОпенАИ ( температура = 0 )алата = лоад_тоолс ( [ 'гоогле-хеадер' , 'ллм-матх' ] , ллм = ллм )
агент = иницијализовати_агент (
алата , ллм , агент = АгентТипе. ЗЕРО_СХОТ_РЕАЦТ_ДЕСЦРИПТИОН , вербосе = Истина
)
с = време . перф_цоунтер ( )
#конфигурисање бројача времена да се време искористи за комплетан процес
за к ин питања:
агент. трцати ( к )
протекло = време . перф_цоунтер ( ) - с
#штампајте укупно време које агент користи за добијање одговора
принт ( ф „Серијско извршење за {елапсед:0.2ф} секунди.“ )
Излаз
Следећи снимак екрана приказује да се на свако питање одговара у засебном ланцу и када се заврши први ланац, други ланац постаје активан. Серијско извршење захтева више времена да би се добили сви одговори појединачно:
Метод 2: Коришћење истовременог извршавања
Метода истовременог извршавања преузима сва питања и истовремено добија њихове одговоре.
ллм = ОпенАИ ( температура = 0 )алата = лоад_тоолс ( [ 'гоогле-хеадер' , 'ллм-матх' ] , ллм = ллм )
#Конфигурисање агента помоћу горњих алата за истовремено добијање одговора
агент = иницијализовати_агент (
алата , ллм , агент = АгентТипе. ЗЕРО_СХОТ_РЕАЦТ_ДЕСЦРИПТИОН , вербосе = Истина
)
#конфигурисање бројача времена да се време искористи за комплетан процес
с = време . перф_цоунтер ( )
задатака = [ агент. болест ( к ) за к ин питања ]
аваит асинцио. скупити ( *задаци )
протекло = време . перф_цоунтер ( ) - с
#штампајте укупно време које агент користи за добијање одговора
принт ( ф „Истовремено извршено за {елапсед:0.2ф} секунди“ )
Излаз
Истовремено извршење извлачи све податке у исто време и одузима много мање времена од серијског извршавања:
То је све о коришћењу Асинц АПИ агента у ЛангЦхаин-у.
Закључак
Да бисте користили Асинц АПИ агент у ЛангЦхаин-у, једноставно инсталирајте модуле да бисте увезли библиотеке из њихових зависности да бисте добили асинцио библиотеку. Након тога, подесите окружења користећи ОпенАИ и Серпер АПИ кључеве тако што ћете се пријавити на њихове одговарајуће налоге. Конфигуришите скуп питања у вези са различитим темама и извршите ланце серијски и истовремено да бисте добили њихово време извршења. Овај водич је разрадио процес коришћења Асинц АПИ агента у ЛангЦхаин-у.