Компанія OpenAI анонсувала значне оновлення для ChatGPT, спрямоване на підвищення його безпеки та етичності. Нейромережа, що розробляється у співпраці з експертами та профільними консультативними групами, буде навчена точніше виявляти ознаки психоемоційного дистресу у користувачів. Це рішення стало відповіддю на численні скарги, згідно з якими в деяких випадках ШІ підтримував небезпечні помилки користувачів і міг погіршувати їхній стан. Раніше OpenAI вже відкотила оновлення, що робило ChatGPT надмірно послужливим, але, як виявилося, цього було недостатньо, пише T4.
Компанія відкрито визнає, що поточна модель GPT-4o не завжди ефективно розпізнає ознаки емоційної залежності або станів, що свідчать про психологічні проблеми, особливо у вразливих користувачів, яким ШІ може здаватися особливо чуйним.
У рамках майбутніх покращень ChatGPT також буде пропонувати нагадування про перерву. Якщо розмова з ШІ затягується, з’явиться повідомлення з пропозицією відволіктися або припинити діалог. Це має на меті зменшити ризик емоційної залежності від чат-бота. Крім того, ШІ стане більш обережним у неоднозначних ситуаціях. Наприклад, якщо користувач запитає: “Чи маю я розлучитися з партнером?”, нейромережа не дасть прямої відповіді, а натомість запропонує розглянути можливі варіанти та наслідки такого рішення, сприяючи більш об’єктивному та свідомому підходу до проблеми.
Читайте також: “Я не робот”: ChatGPT налякав фахівців зі всього світу
Підписуйся на наш Telegram-канал