Тази малка книга е изчерпателно ръководство за разработчици на Python, които желаят да се научат как се създават приложения с големи езикови модели. Разгледани са основните свойства и предимства на GPT-4 и ChatGPT. Обяснени са принципите за работа с тях. Стъпка по стъпка е показан процесът по създаване на различни видове приложения с библиотеката GPT-4 и ChatGPT Python, включително приложения за генериране на текст, отговаряне на въпроси и инструменти за обобщаване на съдържание.
Книгата е написана на ясен и стегнат език и включва лесни за имплементиране примери, които ще ви помогнат да разберете и да прилагате предложените концепции във вашите проекти. Всички кодове са написани на Python и са достъпни в GitHub репозитори. Книгата съдържа и кратък речник на термините с основни ключови понятия.
Готови ли сте да изпитате мощта на големите езикови модели във вашите приложения? Тогава тази книга е за вас. В нея ще откриете:
• Основи, предимства и принцип на работа на GPT-4 и ChatGPT.
• Как се интегрират тези модели в Python приложения за изпълнението на NLP задачи.
• Как се създават приложения за генериране на текст, отговаряне на въпроси и резюмиране на съдържание посредством библиотеките GPT-4 или ChatGPT Python.
• GPT теми за напреднали, включително промпт инженеринг, фина настройка на модели за изпълнение на специфични задачи, LangChain и др.
Оливие Кейлън е изследовател в областта на машинното обучение в Worldline. Има PhD по обучение на машините и води курсове по машинно обучение в Брюкселския университет.
Мари-Алис Блете е софтуерен архитект и инженер по данни в R&D отдела на Worldline. Освен това е дивелъпър адвокат и технологичен говорител.
С практически примери и инструкции стъпка по стъпка, авторите разкриват пътя за разработка на приложения от ново поколение.
Том Таули, автор на Generative AI (Apress)
Теорията и практиката са съчетани така, че сложните концепции на GPT-4 и ChatGPT стават достъпни и разбираеми.
Лукас Соарес, ML, инженер, Biometrid
Съдържание
Предисловие…5
Конвенции, използвани в книгата…6
Използване на примерните кодове…6
Онлайн обучение с O’Reilly…7
Как да се свържете с нас?…7
Благодарности…8
Основи на GPT-4 и ChatGPT…9
Въведение в големите езикови модели…9
Преглед на основите на езиковите модели и NLP…10
Разбиране на архитектурата на трансформатора и ролята й в LLM…12
Разкриване тайната на токенизацията и предвиждането в GPT моделите…16
Кратка история: от GPT-1 до GPT-4…17
GPT-1…17
GPT-2…19
GPT-3…19
От GPT-3 до инструктиран GPT…21
GPT-3.5, Кодекс и ChatGPT…23
GPT-4…24
Приложение на LLM и примерни продукти …25
Be My Eyes…25
„Морган Стенли“ …26
Khan Academy…26
Duolingo…27
Yabble…28
Waymark…28
Inworld AI …29
Пазете се от халюцинациите на ИИ: ограничения и съображения …29
Оптимизиране на GPT моделите с плъгини и фина настройка …33
Обобщение…34
Подробен обзор на интерфейсите на GPT-4 и ChatGPT …36
Основни понятия…37
Достъпни модели в OpenAI API…37
Тестване на GPT моделите с игралната площадка на OpenAI…39
Начало на работата: OpenAI Python Library…45
Достъп до OpenAI и API ключ…45
Пример Hello World…47
Използване на ChatGPT и GPT-4…49
Входни параметри за Chat Completion…50
Форматиране на резултата за Chat Completion…53
От завършване на текст до функции…54
Използване на други модели за завършване на текст…57
Входни параметри за крайната точка за завършване на текст…58
Формат на извода на крайната точка за завършване на текст…59
Съображения…59
Ценообразуване и токен ограничения…59
Сигурност и конфиденциалност: Внимание!…60
Други API интерфейси на OpenAI и функции…61
Вграждания…61
Модел модератор…64
Whisper и DALL-E…67
Обобщение (и пищов)…67
Създаване на приложения с GPT-4 и ChatGPT…69
Основни моменти при разработката на приложения…69
Управление на API ключа…69
Безопасност и конфиденциалност на данните…72
Принципи за проектиране на софтуерна архитектура…72
Уязвимости на приложенията с LLM…73
Анализ на входящите и изходящите данни…74
Неизбежността на промпт инжекциите…75
Примерни проекти…75
Проект 1: Създаване на решение за генериране на новини…76
Проект 2: Резюмиране на YouTube видеа …79
Проект 3: Създаване на експерт за Zelda BOTW…82
Събираме всичко заедно…87
Проект 4: Гласов контрол…89
Обобщение…96
Интелигентни техники за работа с GPT-4 и ChatGPT…97
Промпт инженеринг…97
Проектиране на ефективни промптове…98
Ролята…104
Мислене стъпка по стъпка…105
Имплементиране на обучение с няколко изстрела…108
Повишаване на ефективността на промптовете…110
Фина настройка…112
Подготовка за работа…112
Фина настройка с OpenAI API…115
Приложение на фино настроените модели …118
Генератор на новинарски статии по нишови теми…121
Генериране на фино настроени синтетични данни за маркетинг кампания с имейли…121
Фина настройка на модел със синтетични данни…126
Колко струва фината настройка?…130
Обобщение…130
Усъвършенстване свойствата на LLM с фреймуърка LangChain и плъгини…133
Фреймуъркът LangChain…133
Динамични промптове…135
Агенти и инструменти…136
Памет…140
Вграждания…142
GPT-4 плъгини…146
Преглед…148
API…148
Манифестът на плъгина…150
OpenAPI спецификация…151
Описания…152
Обобщение…153
Заключение…154
Речник на термините…155