Світова наукова та технологічна спільнота виступила з безпрецедентним закликом до негайного припинення подальшої розробки суперінтелекту (Superintelligence), доки людство не навчиться ефективно керувати цим потенційно “потужним” і непередбачуваним інструментом. Майже 70 тисяч вчених, дослідників, відомих бізнесменів та публічних осіб, серед яких лауреати Нобелівської премії, такі як Джеффрі Хінтон та Йошуа Бенджіо, яких часто називають “хрещеними батьками” ШІ, а також такі впливові фігури, як співзасновник Apple Стів Возняк та засновник Virgin Group Річард Бренсон, підписали відкрите звернення, опубліковане організацією Future of Life Institute наприкінці жовтня, пише T4.
У цьому листі наголошується на екзистенційній небезпеці створення системи, яка може перевершити людський інтелект у всіх сферах, і міститься заклик до обережності, поки не будуть розроблені надійні механізми контролю та етичні рамки. Хоча інноваційні інструменти штучного інтелекту, безперечно, обіцяють “безпрецедентне здоров’я та процвітання”, розробка суперінтелекту, який зможе “значно перевершити всіх людей практично у всіх когнітивних завданнях”, викликає глибоке занепокоєння.
Серед перерахованих ризиків у заклику згадуються “економічне старіння та позбавлення прав людини, втрата свободи, громадянських свобод, гідності та контролю”, а також “ризики для національної безпеки та навіть потенційне вимирання людства”. Ці попередження віддзеркалюють давні прогнози, зроблені ще Аланом Тюрінгом у 1950-х роках, який побоювався, що створення ШІ, що перевершує людські когнітивні здібності, може призвести до втрати людьми контролю над цими системами.
Актуальність цього заклику підкреслюється тим фактом, що багато провідних компаній у сфері штучного інтелекту мають на меті створити такий суперінтелект вже в наступному десятилітті. Швидкість розвитку технологій ШІ значно випереджає розробку відповідних регуляторних механізмів та суспільних норм. Без паузи для осмислення та розробки ефективних стратегій управління цією потужною технологією, людство ризикує зіткнутися з наслідками, які можуть бути незворотними. Це відкрите звернення є не просто науковою дискусією, а криком надії від глобальної еліти, яка усвідомлює, що майбутнє цивілізації залежить від відповідального підходу до найпотужнішого творіння людського розуму.
Читайте також: Штучний інтелект розкрив “ймовірних авторів” Біблії
