Більше ніж 800 відомих людей підписали петицію із закликом зупинити розробку «суперінтелекту» на основі ШІ, пише Forbes.

Ініціативу організував некомерційний інститут Future of Life, серед радників якого є Ілон Маск. Петиція закликає заборонити створення штучного інтелекту, який може перевищити людські когнітивні здібності. Автори хочуть, щоб заборона діяла доти, доки науковці не доведуть, що такі технології можна створювати безпечно, і поки більшість суспільства не підтримає їх розвиток.

Серед підписантів – мільярдер Річард Бренсон, співзасновник Apple Стів Возняк, герцог і герцогиня Сассекські Гаррі та Меган, а також праві медійні діячі Стів Беннон і Ґленн Бек. До ініціативи долучилися й відомі дослідники ШІ, зокрема Йошуа Бенджіо, Джеффрі Гінтон і Стюарт Рассел. 

Топменеджери, такі як Сем Альтман з OpenAI й Марк Цукерберг з Meta, які вважають, що суперінтелект можуть створити до 2030 року, петицію не підписали.

Що кажуть дослідники

Уже за кілька років штучний інтелект може стати розумнішим за людей, тому потрібно зрозуміти, як зробити його безпечним і контрольованим, заявив Йошуа Бенджіо. Це не вимога все заборонити, а пропозиція встановити чіткі правила безпеки для технології, яка може становити небезпеку для людства, пояснив Стюарт Рассел.

Як до цього ставляться люди

80% американців вважають, що держава повинна запровадити правила безпеки для штучного інтелекту, навіть якщо це сповільнить його розвиток, за опитуванням Gallup. 64% опитаних у США не хочуть, щоб створювали «надлюдський» ШІ, доки не буде доведено, що він безпечний і під контролем, – або взагалі не хочуть, щоб його розробляли, показує опитування Future of Life.

   

Future of Life вже закликав до обережності в розвитку ШІ – у 2023 році інститут опублікував петицію про призупинення «великих експериментів зі штучним інтелектом». Її тоді підписав Ілон Маск, але цього разу він поки не долучився.

Читай Новини Віледжа в телеграмі

Підписатись

Обкладинка й фото: Freepik