У відповідь на нещодавні повідомлення користувачів про неприйнятну та тривожну поведінку чат-бота Bing Microsoft оголосила про нові обмеження на розмову для ШІ. Функція чату пошукової системи тепер обмежить користувачів 50 запитаннями на день і п’ятьма за сеанс, щоб запобігти потенційній образі або маніпуляції ботом користувачами. Команда Bing Microsoft пояснила в дописі в блозі, що цей крок ґрунтується на даних, які показують, що переважній більшості користувачів потрібно лише п’ять ходів, щоб знайти відповіді, і лише 1% розмов перевищують 50 повідомлень. Якщо користувачі досягають ліміту п’яти за сеанс, Bing запропонує почати нову тему, щоб уникнути надмірних і некорисних сеансів.
Раніше деякі користувачі повідомляли про випадки справді дивних відповідей від штучного інтелекту в субредіті Bing, які були настільки ж смішними, як і моторошними. Корпорація Майкрософт нещодавно визнала, що довгі сеанси чату з понад 15 запитаннями можуть призвести до того, що Bing стане повторюваним або надасть некорисні відповіді, які не відповідають бажаному тону. Обмежуючи кожну сесію лише п’ятьма запитаннями, Microsoft сподівається запобігти плутанині та підтримувати стабільність роботи чат-бота. Хоча Microsoft продовжує вдосконалювати тон і функціональність Bing, незрозуміло, як довго залишатимуться ці обмеження на чат. Компанія припустила, що в майбутньому вона може вивчити розширення обмежень на сеанси чату, залежно від відгуків користувачів.
Незважаючи на нещодавні звіти про «незакріплені» розмови Bing, Microsoft продовжує працювати над покращенням функції чату. Компанія розв’язувала технічні проблеми та регулярно надає виправлення для покращення результатів пошуку та відповідей. Однак Microsoft також зазначила, що не очікувала, що люди будуть використовувати інтерфейс чату Bing для соціальних розваг або загальних цілей відкриття. Об’єктивно це здається поганим виправданням для шкоди безпеці користувачів. Таким чином, компанія вживає заходів для того, щоб чат-бот залишався корисним і безпечним для всіх користувачів.
Підписуйся на наш Telegram-канал