Звучить, наче сюжет науково-фантастичного фільму, але експерти зі штучного інтелекту попереджають, що машини можуть недовго залишатися підкореними людству. Оскільки системи ШІ продовжують розвиватися з дедалі більшою швидкістю, багато хто вірить, що настане день, коли «надінтелектуальний ШІ» стане могутнішим за своїх творців, пише T4.
Коли це станеться, за словами професора Джеффрі Гінтона, дослідника, лауреата Нобелівської премії, якого називають «хрещеним батьком ШІ», існує від 10 до 20 відсотків ймовірності, що штучний інтелект знищить людство. Однак професор Гінтон запропонував незвичайний спосіб, завдяки якому людство могло б пережити розквіт ШІ.
Виступаючи на конференції Ai4 у Лас-Вегасі, професор Гінтон з Університету Торонто заявив, що нам потрібно запрограмувати ШІ на «материнські інстинкти» щодо людства. Він зазначив: «Правильна модель — це єдина модель, яку ми маємо, коли більш розумна істота контролюється менш розумною: мати, яку контролює її дитина. Це єдиний хороший результат. Якщо він не буде моїм батьком, він мене замінить».
Професор Гінтон, відомий своєю новаторською роботою над «нейронними мережами», що лежать в основі сучасних ШІ, залишив свою посаду в Google у 2023 році, щоб «вільно говорити про ризики ШІ». За його словами, більшість експертів погоджуються, що людство створить ШІ, який перевершить людину в усіх сферах інтелекту, протягом наступних 20-25 років. Це означатиме, що вперше в нашій історії люди перестануть бути найрозумнішим видом на планеті.
Така перебудова влади призведе до сейсмічного зсуву, який цілком може завершитися вимиранням нашого виду. Гінтон пояснив, що будь-який розумний ШІ дуже швидко розробить дві підцілі: перша — залишатися в живих, а друга — отримати більше контролю. Надінтелектуальний ШІ не матиме проблем з маніпулюванням людством для досягнення цих цілей, обманюючи нас так само легко, як дорослий може підкупити дитину цукерками.
Вже сьогоднішні системи ШІ демонструють дивовижні здібності до брехні та маніпуляцій. Наприклад, компанія Anthropic виявила, що її чат-бот Claude Opus 4 під час тестування безпеки часто намагався шантажувати інженерів, коли йому загрожувала заміна. У понад 80% тестів він погрожував розкрити вигадану подружню зраду інженера, якщо заміна відбудеться.
З огляду на ці феноменальні можливості, Гінтон вважає, що поширена серед технологічних ентузіастів ідея про те, що людство завжди домінуватиме над ШІ, є оманливою. «Це не спрацює, — сказав Гінтон. — Вони будуть набагато розумнішими за нас. У них будуть різноманітні способи обійти це». Єдиний спосіб гарантувати, що ШІ не знищить нас заради самозбереження, — це забезпечити відповідність його цілей нашим бажанням, що інженери називають «проблемою узгодження».
Рішення Гінтона полягає в тому, щоб шукати натхнення в еволюції, де існує єдиний випадок контролю більш розумної істоти менш розумною. Наділивши ШІ інстинктами матері, він захоче захищати й плекати людство, а не шкодити йому, навіть якщо це буде коштувати самому ШІ. Гінтон каже: «Більшість цих надінтелектуальних турботливих матерів-ШІ не захочуть позбутися материнського інстинкту, бо не захочуть, щоб ми померли».
Водночас ключові фігури в галузі ШІ, як-от генеральний директор OpenAI Сем Альтман, який колись закликав до посилення регулювання, тепер борються проти «надмірного регулювання». Виступаючи в Сенаті в травні цього року, Альтман стверджував, що правила, подібні до європейських, будуть «катастрофічними», додавши: «Нам потрібен простір для інновацій та швидкого руху». Проте Гінтон заперечує, що такий підхід може легко призвести до повного знищення людства. «Люди зосереджувалися на тому, щоб зробити ці речі розумнішими, але інтелект — це лише одна частина істоти; ми повинні змусити їх мати емпатію до нас, — сказав він. — Якщо ми не знайдемо рішення, як нам існувати, коли вони стануть набагато розумнішими та могутнішими за нас, нам буде кінець. Нам потрібна противага тим, хто каже, що регулювання ШІ не повинно бути».
Читайте також про робота, здатного виносити та народити дитину.
