Перейти до основного вмісту

Інструменти інженерії запитів

Цей розділ містить список інструментів, що не належать до інтегрованого середовища розробки (ІСР), але корисні для створення запитів.

Розробка запитів, тестування та об’єднання​

LangChain​

Великі мовні моделі (ВММ) з’являються як трансформаційна технологія, що дозволяє розробникам створювати застосунки, які вони раніше не могли. Однак, використання ВММ ізольовано часто є недостатнім, щоб створити справді сильний застосунок – справжня потужність приходить, коли ви можете поєднати їх з іншими джерелами обчислень або інформації.

Ця бібліотека призначена для допомоги в розробці таких типів застосунків.

Dust.tt​

Платформа Dust допомагає створювати застосунки на основі ВММ у вигляді ряду запитових викликів до зовнішніх моделей. Вона забезпечує простий у використанні графічний інтерфейс користувача для побудови ланцюгів із запитів, а також набір стандартних блоків і власну мову програмування для розбору та обробки результатів застосування мовної моделі.

У ні є низка функцій, щоб зробити розробку застосунків швидшою, легшою та надійнішою:

  • огляд кількох відповідей паралельно;
  • перевірка результатів виконання;
  • версифікація ланцюжків запитів;
  • спеціальна мова програмування для обробки даних і тексту;
  • інтеграція API для різних моделей і зовнішніх сервісів.

OpenPrompt1​

Навчання на основі запитів – це найновіша парадигма для адаптації попередньо навчених мовних моделей (Pre-trained language model, PLM) до завдань з обробки природної мови (Natural Language Processing, NLP), яка змінює введений текст за допомогою текстового шаблону та безпосередньо використовує PLM для виконання попередньо навчених завдань. OpenPrompt – це бібліотека, створена на основі PyTorch, що надає стандартну, гнучку та розширену структуру для розгортання послідовності навчання на основі запитів. OpenPrompt підтримує завантаження PLM безпосередньо з платформи huggingface transformers. У майбутньому ми також підтримуватимемо PLM, реалізовані іншими бібліотеками.

BetterPrompt​

⚡ Перевірте набір запитів для ВММ, перш ніж надсилати їх на виробництво⚡

Prompt Engine​

Бібліотека службових програм NPM для створення та підтримки підказок для ВММ.

Promptify​

Покладатися лише на ВММ часто недостатньо для створення застосунків та інструментів. Щоб повністю розкрити їхній потенціал, необхідно інтегрувати ВММ з іншими джерелами обчислень або знань і підготувати конвеєр передачі даних до виробництва.

Ця бібліотека спрямована на допомогу в розробці конвеєра передачі даних для використання ключів API у ВММ під час виробництва, вирішення завдань NLP, таких як розпізнавання іменованих сутностей (Named Entity Recognition, NER), класифікація, запитання, відповіді, підсумовування, перетворення тексту в графік тощо, а також надання потужних агентів для створення чат-агентів для різних завдань.

TextBox2​

TextBox 2.0 – це сучасна бібліотека написання тексту на основі Python і PyTorch, яка зосереджена на побудові уніфікованого та стандартизованого конвеєра передачі даних для застосування попередньо навчених мовних моделей до написання тексту:

ThoughtSource​

«ThoughtSource – це центральний відкритий ресурс і спільнота, що зосереджені на даних та інструментах для механізму ходу думок у міркуванні у великих мовних моделях (Вей, 2022). Наша довгострокова мета полягає в забезпеченні надійних і стійких міркувань у передових системах ШІ для сприяння розвитку наукових досліджень та медичної практики.»

Інші приклади інструментів для інженерії запитів​

GPT Index3​

GPT Index – це проєкт, що складається з набору структур даних, призначених для полегшення використання великих зовнішніх баз заповнених інформацією з ВММ.

Deforum​

Анімаційні відео створені з допомогою ШІ

Visual Prompt Builder​

Будування запитів візуально

Interactive Composition Explorer​

ICE – це бібліотека Python і візуалізатор-відтворювач для програм мовної моделі.

PTPT - Prompt To Plain Text​

PTPT – це інструмент командного рядка, який дозволяє легко конвертувати звичайні текстові файли, використовуючи попередньо визначені запити, за допомогою ChatGPT. Завдяки PTPT ви можете без особливих зусиль створювати формати запитів і ділитися ними, полегшуючи співпрацю та налаштування. Крім того, підписавшись, ви отримуєте доступ до ще більшої кількості запитів, щоб покращити процес вашої роботи. Якщо ви зацікавлені в інженерії запитів, ви можете використовувати PTPT, щоб розробити та поділитися своїми запитами.

Orquesta AI Prompts​

Платформа для співпраці з низьким кодом для запитів ШІ

  • Повне управління життєвим циклом запитів (від ідеї до збору відгуків).
  • Функції та безпека корпоративного рівня.
  • Підтримка публічних, приватних і спеціальних ВММ.
  • Запити на основі спеціального контексту та бізнес-правил. Оцінювання на останньому етапі.
  • Реєстрація в режимі реального часу та збір даних щодо продуктивності та економіки запитів.

Інше​

https://gpttools.com

  1. Ding, N., Hu, S., Zhao, W., Chen, Y., Liu, Z., Zheng, H.-T., & Sun, M. (2021). OpenPrompt: An Open-source Framework for Prompt-learning. arXiv Preprint arXiv:2111.01998. ↩
  2. Tang, T., Junyi, L., Chen, Z., Hu, Y., Yu, Z., Dai, W., Dong, Z., Cheng, X., Wang, Y., Zhao, W., Nie, J., & Wen, J.-R. (2022). TextBox 2.0: A Text Generation Library with Pre-trained Language Models. ↩
  3. Liu, J. (2022). GPT Index. https://doi.org/10.5281/zenodo.1234 ↩