Како се користи избор према максималној маргиналној релевантности (ММР) у ЛангЦхаин-у?

Kako Se Koristi Izbor Prema Maksimalnoj Marginalnoj Relevantnosti Mmr U Langchain U



ЛангЦхаин је модул који се може користити за изградњу језичких модела за интеракцију са људима на природним језицима. Људи обезбеђују промпт у текстуалном облику, а модел користи пример селектора да извуче излаз користећи упит. Селектори примера се користе за преузимање излаза на основу уноса избором најближег релевантног примера упиту или промпту.

Овај водич ће илустровати процес коришћења селектора примера одабира према максималној маргиналној релевантности у ЛангЦхаин-у.

Како се користи избор према максималној маргиналној релевантности (ММР) у ЛангЦхаин-у?

Селектор примера максималне маргиналне релевантности се користи за издвајање информација коришћењем косинусне сличности одзива и примера. Косинусна сличност се израчунава након примене метода уградње на податке и претварања текста у нумерички облик.







Да бисте научили процес коришћења селектора примера ММР у ЛангЦхаин-у, једноставно прођите кроз наведене кораке:



Корак 1: Инсталирајте модуле



Започните процес инсталирањем зависности ЛангЦхаин-а помоћу команде пип:





пип инсталл лангцхаин

Инсталирајте ОпенАИ модул да бисте користили његово окружење за примену ОпенАИЕмбеддинг() методе:



пип инсталл опенаи

Инсталирајте ФАИСС оквир који се може користити за добијање излаза користећи семантичку сличност:

пип инсталл фаисс-гпу

Сада инсталирајте тиктокен токенизер за поделу текста на мање делове користећи следећи код:

пип инсталл тиктокен

Корак 2: Коришћење библиотека и примера

Следећи корак је увоз библиотека за прављење селектора примера ММР, ФАИСС, ОпенАИЕмбеддингс и ПромптТемплате. Након увоза библиотека, једноставно креирајте скуп примера који даје улазе и излазе за њихове одговарајуће улазе у више низова:

из лангцхаин. упити . селектор_примера увоз (
МакМаргиналРелеванцеЕкамплеСелецтор ,
СемантицСимиларитиЕкамплеСелецтор ,
)
из лангцхаин. векторске продавнице увоз ФАИСС
из лангцхаин. уградње увоз ОпенАИЕмбеддингс
из лангцхаин. упити увоз ФевСхотПромптТемплате , ПромптТемплате

екампле_промпт = ПромптТемплате (
инпут_вариаблес = [ 'улазни' , 'излаз' ] ,
шаблон = „Унос: {инпут} Излаз: {оутпут}' ,
)

примери = [
{ 'улазни' : 'срећан' , 'излаз' : 'тужан' } ,
{ 'улазни' : 'висок' , 'излаз' : 'кратак' } ,
{ 'улазни' : 'енергетски' , 'излаз' : 'летаргичан' } ,
{ 'улазни' : 'сунчан' , 'излаз' : 'тмуран' } ,
{ 'улазни' : 'ветровито' , 'излаз' : 'мирно' } ,
]

Корак 3: Прављење бирача примера

Сада почните да правите селектор примера ММР користећи МакМаргиналРелеванцеЕкамплеСелецтор() метод који садржи различите параметре:

селектор_примера = МакМаргиналРелеванцеЕкамплеСелецтор. фром_екамплес (
примери ,
ОпенАИЕмбеддингс ( ) ,
ФАИСС ,
к = 2 ,
)
ммр_промпт = ФевСхотПромптТемплате (
селектор_примера = селектор_примера ,
екампле_промпт = екампле_промпт ,
префикс = „Наведите антоним за сваки унос“ ,
суфикс = „Унос: {придев} Излаз:' ,
инпут_вариаблес = [ 'придев' ] ,
)

Корак 4: Тестирање селектора примера ММР-а

Тестирајте селектор примера ММР максималне маргиналне релевантности тако што ћете га позвати методом принт() са уносом:

принт ( ммр_промпт. формату ( придев = 'забринут' ) )

Корак 5: Коришћење семантичке сличности

Овај корак користи методу СемантицСимиларитиЕкамплеСелецтор(), а затим користи методу ФевСхотПромптТемплате() коју подржава ЛангЦхаин:

селектор_примера = СемантицСимиларитиЕкамплеСелецтор. фром_екамплес (
примери ,
ОпенАИЕмбеддингс ( ) ,
ФАИСС ,
к = 2 ,
)
сличан_промпт = ФевСхотПромптТемплате (
селектор_примера = селектор_примера ,
екампле_промпт = екампле_промпт ,
префикс = „Наведите антоним за сваки унос“ ,
суфикс = „Унос: {придев} Излаз:' ,
инпут_вариаблес = [ 'придев' ] ,
)
принт ( сличан_промпт. формату ( придев = 'забринут' ) )

То је све о коришћењу избора према максималној маргиналној релевантности или ММР-у у ЛангЦхаин-у.

Закључак

Да бисте користили бирач према максималној маргиналној релевантности или селектор примера ММР-а у ЛангЦхаин-у, инсталирајте потребне модуле. Након тога, увезите библиотеке да бисте направили скуп примера користећи шаблон за унос и излаз. Направите селектор примера ММР да бисте га тестирали користећи селектор примера ММР и методу ФевСхотПромптТемплате() да бисте добили релевантан излаз. Овај водич је илустровао процес коришћења селектора примера одабира по ММР у ЛангЦхаин-у.