Компанія OpenAI нещодавно оприлюднила дані, які проливають світло на складний і делікатний характер взаємодії користувачів із її флагманським продуктом, ChatGPT. Аналіз показав, що значна кількість людей використовує чат-бот для обговорення глибоко особистих та серйозних проблем, пов’язаних із психічним здоров’ям. Згідно з опублікованою статистикою, щотижня понад мільйон користувачів ведуть розмови, які містять явні ознаки потенційного планування або намірів самогубства, що становить близько 0,15% від усієї активної тижневої аудиторії. Хоча у відсотковому відношенні ці цифри здаються мізерними, при загальній базі у сотні мільйонів користувачів абсолютні цифри вказують на масштабну соціальну тенденцію, де ШІ стає довіреною особою для людей у кризовому стані, пише T4.
Дослідження також виявило інші тривожні патерни. Приблизно 0,07% користувачів щотижня демонструють ознаки, що можуть вказувати на психоз або манію, тоді як ще 0,15% виявляють ознаки сильної емоційної залежності від штучного інтелекту. Це ставить перед розробниками фундаментальні етичні виклики та підкреслює величезну відповідальність, яка лягає на технологічні платформи. У відповідь на ці дані OpenAI заявила, що активно працює над покращенням безпеки своїх моделей. Компанія залучила понад 170 експертів у галузі психічного здоров’я для консультацій та вже впровадила оновлення, зокрема в останніх версіях, які тепер значно коректніше та безпечніше реагують на чутливі теми, намагаючись скеровувати користувачів до профільних служб підтримки.
Читайте також: Перша у світі ШІ-міністерка вагітна 83 дітьми
Підписуйся на наш Telegram-канал