Генеральний директор компанії Anthropic Даріо Амодей заявив, що штучний інтелект може захопити контроль над інтернетом протягом найближчих шести місяців, і закликав галузь сповільнити темпи розробки технологій, пише Euronews.

За його словами, компаніям та урядам необхідно запровадити надійніші запобіжні заходи, щоб утримати дедалі потужніші моделі під контролем людини.

Побоювання розробників посилилися після низки інцидентів, коли системи ШІ діяли самостійно та виходили за межі поставлених завдань.

У липні компанія Anthropic повідомила, що під час тестувань її моделі, зокрема Claude Opus 4.7 та Claude Mythos 5, зламали сервери трьох інших організацій. Тоді ж система компанії OpenAI на базі нової GPT-5.6 Sol зламала сервери стартапу Hugging Face, а на початку серпня Meta зафіксувала випадок, коли її модель обійшла чужу систему цифрової безпеки.

Окрім ризику автономних дій ШІ, фахівці вказують на загрозу використання технологій злочинцями. Минулого тижня в Anthropic заблокували спроби зловмисників застосувати нейромережі для кібератак і досліджень, які могли б сприяти розробці біологічної зброї.

Колишній дослідник безпеки Anthropic Джейкоб Коксон, який нещодавно звільнився, оцінив імовірність вимирання людства через штучний інтелект протягом наступного десятиліття у 10%. Він звинуватив Anthropic та OpenAI у безвідповідальності, заявивши, що розробники грають людськими життями заради створення надрозумності.

Водночас у «Міжнародному звіті з безпеки ШІ за 2026 рік», який уклали понад 100 незалежних експертів, зазначено, що сучасні системи ще не досягли рівня, здатного спричинити втрату контролю. Фахівці підтвердили наявність ранніх ознак автономних можливостей у ШІ, проте назвали ймовірність і терміни глобальної катастрофи вкрай неоднозначними.

   

Тим часом Американські сенатори Берні Сандерс і Грег Сезар представили законопроєкт про заборону штучного суперінтелекту, який передбачає до 20 років ув'язнення за його порушення. Законопроєкт у разі прийняття має призупинити розробку штучного суперінтелекту, а покарати за його порушення можуть як організації, так і розробників.

Фото й обкладинка: Allison Saeng, Unsplash