Новий документ Кембриджського університету, підтриманий відомими діячами в галузі штучного інтелекту, викликав дискусію своєю пропозицією про віддалені «вимикачі» та інші механізми контролю для передових технологій ШІ.
У документі розглядається декілька стратегій, що могли б бути важливими для законодавців при нагляді за апаратурою штучного інтелекту. Пропозиції, включаючи посилення прозорості та обмеження у продажі компонентів для ШІ, вже втілюються в життя. Зокрема, уряд США моніторить компанії, які створюють потужні ШІ системи, та інфраструктуру, необхідну для їх тренування. Водночас, рекомендується зміцнити політики ідентифікації клієнтів, аби уникнути нелегального використання таких технологій.
Незважаючи на зусилля з мінімізації ризику змагання в озброєнні ШІ, дослідження підкреслює потенційні ризики. Зокрема, вимоги до звітності можуть порушити приватність і спричинити витоки інформації, тоді як торговельні обмеження, наприклад обмеження на продаж чіпів у Китай, несуть свої власні ризики.
Автори пропонують створення міжнародного реєстру для слідкування за чіпами ШІ протягом усього їх життєвого циклу, навіть після експорту, з метою боротьби з контрабандою шляхом використання унікальних ідентифікаторів.
Однак, найбільшу дискусію викликала ідея інтеграції в чіпи спеціальних «вимикачів». Попри ризик їх використання зловмисниками, пропонується впровадження системи цифрового ліцензування під контролем регуляторів для можливості дистанційного відключення в разі зловживань.
Також обговорюється ідея введення системи множинного схвалення для високоризикованих ШІ проектів, аналогічно до контролю за ядерною зброєю, щоб запобігти небезпечним розробкам, хоча це може перешкоджати й корисним ініціативам через нечітке розмежування між ними.
Наостанок, стаття виступає за спрямування ресурсів та зусиль у галузі штучного інтелекту на підтримку позитивних суспільних змін. Це включає в себе розробку і впровадження ШІ систем, які можуть приносити користь людству, наприклад, у медицині, освіті та екології.
Таким чином, цей документ не лише вказує на потенційні небезпеки та виклики, пов’язані з розширенням можливостей штучного інтелекту, але й наголошує на важливості відповідального підходу до регулювання та використання цих технологій. Впровадження ефективних механізмів контролю та відстеження, згідно з пропозиціями, має стати ключовим кроком у забезпеченні безпеки та етичності в сфері ШІ, що, в свою чергу, сприятиме створенню позитивного майбутнього для всіх.
