AI-сервис
Demo Болталка

Диалоговая модель-собеседник, chit-chat на основе ruGPT-3

Лицензия
Apache 2.0
Бесплатно
Подключить
Сценарии использования
Запросы к API
Категории
rugpt3conversational AInatural language generationdialogue generationconversational response generation
Разработчик
SberDevices
ОписаниеХарактеристики

Демо сервиса генеративной болталки (chithat модель) на произвольные темы. Основан на базе finetuned модели ruGPT-3 Large . Имя бота маскируется в репликах %bot_name. Не цензурируется (18+).

Технологии аналогичны (но не идентичны) болталкам в виртуальных ассистентах Салют.

Пример запроса к сервису

Воспользуйтесь кнопкой Подключить и перейдите в swagger сервиса.

Болталка принимает на вход текстовую фразу пользователя с предысторией общения (контекст) в виде списка списков нечетной длины, где первая и последняя реплики в списке — пользовательские.

Пример: curl --location --request POST "https://api.aicloud.sbercloud.ru/public/v2/inference/v1/predict/{name}/{predict}/" --header "Content-Type: application/json" --header "authorization: <your access token>" --header "x-api-key: <your GWAPI key>" --header "x-workspace-id: <your x-workspace-id>" --data-raw "{"instances": [{"contexts": [["Предыстория, фраза пользователя", "Предыстория, реплика болталки", "Предыстория, фраза пользователя", "Предыстория, реплика болталки", "текущая фраза пользователя"]]}]}"

Пример ответа сервиса

Болталка выдает список реплик-ответов на присланные контексты (для пересылки юникодные символы кодируются в ascii).

Пример: {"responses": ["Реплика болталки"]}

Пример локального отладочного обращения к сервису

curl --location --request POST "http://localhost:8080/v1/models/kfserving-default:predict" --header "Content-Type: application/json" --data-raw "{"instances": [{"contexts": [["Привет, дурилка!"], ["Привет, дурилка!", "сама ты дурилка... картонная", "ничего себе! ну и ответ у тебя"]]}]}" | ascii2uni -a U -q

Справочные видео про виртуальные ассистенты

Генеративная chit-chat модель как интересный собеседник

Генеративные разговорные модели: метрики, данные, перспективы

Taming of a Generative Beast

Справочные видео про генерацию GPT-подобными моделями:

Снова про управление мамонтами, или как заставить языковую модель генерировать нужный нам текст

Удачные и неудачные попытки удержать GPT

Дисклеймер

При использовании демо сервиса Болталка ответы формируются на автоматической основе. ООО «Облачные технологии» не несет ответственности за точность, релевантность, корректность информации, полученной пользователем посредством данного демо.

Лицензирование

Модель ruGPT-3 Large, на основе которой сделан сервис, и ее исходный код поставляются на основе открытой лицензии Apache 2.0

Apache 2.0

Основные