Синтакса:
Пошто смо упознати са ЦхатГПТ-ом, знамо да је ова платформа у власништву заједнице Опен АИ и да пружа алате, архитектуре, АПИ-је и неколико оквира које можемо да користимо у примени наших апликација и модела обраде природног језика. Отворена АИ нуди АПИ-је преко којих можемо да користимо било које унапред обучене АИ и НЛП моделе са Опен АИ платформе и можемо их натерати да раде за наше апликације као што је, на пример, давање предвиђања података у реалном времену. Исто тако, ГПТ4Алл такође омогућава својим корисницима да интегришу своје унапред обучене АИ моделе са различитим апликацијама.
Модел ГПТ4Алл је обучен на ограниченим подацима у поређењу са ЦхатГПТ. Такође има нека ограничења у погледу перформанси у поређењу са ЦхатГПТ-ом, али омогућава кориснику да користи свој приватни ГПТ на свом локалном хардверу и не захтева никакве мрежне везе. Уз помоћ овог чланка сазнаћемо како можемо да користимо ГПТ4Алл моделе у Питхон скрипти пошто ГПТ4Алл има званичне везе са Питхон-ом што значи да можемо да користимо и интегришемо ГПТ4Алл моделе и кроз Питхон скрипту.
За инсталацију ГПТ4Алл за Питхон ИДЕ потребна је команда на мрежи. Затим можемо да интегришемо онолико АИ модела колико и наше апликације. Команда за инсталирање овог ГПТ4Алл у Питхон-у је као што је приказано у наставку:
$ пип инсталл гпт4алл
Пример 1:
Да бисмо започели са овим примером, морамо да преузмемо и инсталирамо Питхон у наше системе. Препоручене верзије Питхона су „верзија 3.7“ или оне које су дошле после ове верзије. Други начин рада са Питхон-ом да бисте избегли дуг процес инсталирања „Питхон подешавања“ на наше системе је коришћење „Гоогле Цолаб-а“ које је окружење засновано на облаку за Питхон. Можемо да покренемо ово окружење на било ком веб претраживачу и можемо да изградимо АИ и моделе машинског учења. Примери које ћемо овде имплементирати се извршавају у Гоогле Цолаб-у.
Овај пример покрива метод за инсталирање ГПТ4Алл у Питхон-у и начин коришћења његових унапред обучених модела. Почињемо тако што прво инсталирамо ГПТ4Алл. За то се извршава команда коју смо претходно споменули. Извршавањем команде, ГПТ4Алл заједно са својим пакетима и оквирима се преузима и инсталира.
Сада идемо напред. Из ГПТ4Алл увозимо „ГПТ4Алл“. Ово додаје све унапред обучене моделе из ГПТ4Алл у пројекат. Сада можемо да користимо било који појединачни модел и натерамо га да уради предвиђања за нашу апликацију. Када увеземо ГПТ4Алл пакет, сада је време да позовемо ову функцију и користимо ГПТ4Алл модел који даје излаз за „завршетак ћаскања“.
Другим речима, ако тражимо нешто од тог модела на улазу, он то враћа на излазу. Модел који овде користимо је „ггмл-гпт4алл-ј-в1.3-гроови“. Ови модели су већ ускладиштени у ГПТ4Алл кешу. Ове моделе можемо добити са ове везе “ Е11018Б88615083ФБ2АБ8Д33Е4Ф0ЦБЕ1995АД7А1 ” за ручно преузимање. Ако је модел већ присутан у ГПТ4Алл кешу, једноставно позивамо име модела и наводимо га као улазне параметре за функцију „ГПТ4Алл()“. Ако смо га ручно преузели успешно, преносимо путању до фасцикле у којој се модел налази. Пошто је овај модел за довршавање поруке, синтакса за овај модел је дата на следећи начин:
$ Цхат_цомплетион (поруке)Поруке су листа речника и сваки речник треба да садржи кључ „улоге“ са вредношћу корисника, система или помоћника и садржај „кључа“ који има вредност као стринг. У овом примеру наводимо садржај као „именуј три боје“ и кључ улоге као „корисник“.
$модел= ГПТ4Алл('ггмл-гпт4алл-ј-в1.3-гроови')$мессагес = [{'роле': 'усер', 'цонтент': 'Назови 3 цвета'}]
Након ове спецификације, позивамо функцију „цхат_цомплетион()“ са моделом. Код за ово је приказан у следећем излазу:
$ !пип инсталл гпт4аллфром гпт4алл импорт ГПТ4Алл
модел = ГПТ4Алл('ггмл-гпт4алл-ј-в1.3-гроови')
поруке = [{'роле': 'усер', 'цонтент': 'Назови три боје'}]
модел.цхат_цомплетион(мессагес)
Након извршења овог примера, модел враћа три боје као одговор на улаз.
Пример 2:
Покривамо још један пример где откривамо још један метод за коришћење ГПТ4Алл у Питхон-у. Ово се може урадити коришћењем званичних веза за Питхон које обезбеђује „Номиц“, који је АИ заједница отвореног кода и покреће ГПТ4Алл. Користећи следећу команду, интегришемо „номиц“ у нашу Питхон конзолу:
$ пип инсталл номицКада се ово инсталира, увозимо ГПТ4Алл из „номиц.гпт4алл“. Након увоза ГПТ4Алл, иницијализујемо ГПТ4Алл функцијом „опен()“. Затим позивамо функцију „промпт()“ и прослеђујемо промпт овој функцији. Затим се генерише брзи одговор на основу промпта који смо дали као улаз у модел промпта.
!пип инсталл номициз номиц.гпт4алл импорт ГПТ4Алл
# Иницијализујте ГПТ4Алл модел
започети = ГПТ4Алл()
започети.опен()
# Генерисање одговора на основу упита
модел_респонсе = инитиале.промпт('напишите кратку причу о рачунару)
# приказује генерисани одговор
принт(модел_респонсе)
Излаз приказује брзи одговор из модела који смо генерисали користећи унапред обучени ГПТ4Алл модел у Питхон-у. Ако желимо да сазнамо више о моделима и како можемо да користимо ове моделе за генерисање одговора, или једноставним речима, ако желимо да стекнемо знање о синтакси за генерисање одговора из ових модела, можемо потражити даљу помоћ од ГПТ4 Сви детаљи техничке документације.
Закључак
ГПТ4Алл још увек настоји да постигне тачност перформанси. Покреће га номична АИ платформа која има за циљ да својим корисницима обезбеди вештачки интелигентне цхат ботове на ЦПУ-има потрошачког нивоа, пошто ГПТ4Алл ради без икакве мрежне везе и ГПУ-а. Овај чланак нас просветљује да вешто користимо ПиГПТ4Алл у Питхон окружењу и да створимо интеракцију између наших апликација и унапред обучених ГПТ4Алл АИ модела. У овом водичу смо покрили две различите методе како да инсталирате ГПТ4Алл у Питхон-у.