Штучний інтелект розвивається шаленою швидкістю — нові моделі, такі як GPT-4, доводять, як швидко ШІ може вдосконалюватися. З цим прогресом постали питання про загрозу ШІ для існування людини. Хоча дехто вірить, що штучний інтелект прирече нас усіх, не всі готові погодитися на загибель.
Можливість того, що штучний інтелект може якимось чином знищити людство, не нова. Ми бачили, як це повторюється знову і знову в науково-фантастичних книгах, фільмах і телевізійних шоу. Незважаючи на те, наскільки науковою фантастикою це може здатися, прогрес, який ми спостерігаємо останнім часом, не завадив багатьом зачепитися за загрозу штучному інтелекту людському існуванню.
Для багатьох віра проста: якщо ми зробимо штучний інтелект надто розумним, він навчиться ставати розумнішим, зрештою вбивши все людство. чому Ну, тому що розумніший за нас, звичайно. Але один дослідник ШІ не впевнений, що такий результат відбудеться.
Насправді дослідник штучного інтелекту Джуліан Тогеліус настільки не переконаний у загрозі штучного інтелекту людському існуванню, що порівняв це з безглуздим аргументом про те, що Elden Ring , відеогра, випущена в 2022 році, знищить людство.
Це звучить смішно, я визнаю, але Тогеліус каже, що аргументи на користь загрози ШІ людському існуванню настільки ж безглузді. Звичайно, це не те саме, чи не так? Elden Ring — це просто відеогра — частина програмного забезпечення. ШІ набагато більший, чи не так? Не за Тогелієм.
«Інтуїтивна відповідь на це полягає в тому, що Elden Ring — це «не ШІ». GPT-4, Stable Diffusion і AlphaGo — це «AI». Тому вони більш небезпечні», — пише він у блозі, обговорюючи загрозу ШІ для існування людини.
«Але «ШІ» — це лише назва галузі дослідників і різноманітних алгоритмів, які вони винаходять, статей і програмного забезпечення, які вони публікують. Ми називаємо галузь штучним інтелектом через семінар у 1956 році та тому, що це хороший піар», — продовжує він у своїй публікації.
Але Elden Ring не може змінювати чи поширюватися через Інтернет. То як це можна порівняти з інтелектом ШІ? По-перше, Тогеліус каже, що наразі немає штучного інтелекту, здатного на це. Крім того, комп’ютерні віруси — які існують десятиліттями — вже можуть це зробити.
Is Elden Ring an existential risk to humanity? That is the question I consider in my new blog post. Yes, it is a comment on the superintelligence/x-risk debate. Read the full thing here:https://t.co/KNE9yxpStQ
— Julian Togelius (@togelius) April 4, 2023
Or follow along for a few tweets first, if you prefer. pic.twitter.com/J7vp3JTtdI
Звичайно, комп’ютерні віруси можуть завдати багато неприємностей, особливо якщо вони потрапляють у системи великих компаній. Але комп’ютерний вірус не знищить людство. Таким чином, говорити про те, що ШІ загрожує людському існуванню, так само смішно, як думати, що комп’ютерний вірус може вбити нас усіх.
Критичною відмінністю, звичайно, є фактор інтелекту, який ми часто зображуємо за допомогою ШІ. Однак Тогеліус каже, що важливо не надавати занадто багато уваги цьому одному слову, оскільки це лише одна частина рівняння. Зробити щось більш розумним не обов’язково робить його здатним керувати світом або становити загрозу для існування людини.
Звичайно, не всі дослідники ШІ згодні з аргументом Тогеліуса. Нещодавно ми бачили, як один із піонерів штучного інтелекту визнав, що існує невелика ймовірність того, що загроза ШІ людському існуванню може виявитися правдою. Однак шансів мало, і це лише особисті переконання людей, які займаються цією сферою.
Чи являє штучний інтелект загрозу людству, досі залишається предметом суперечок. Зрештою, те, у що ви вірите, завжди залежить від вас. ШІ – загроза чи інструмент? Це питання, на яке ми всі повинні відповісти самі. Для Джуліана Тогеліуса немає причин боятися ШІ.
