Дослідник ШІ покинув індустрію через ризики для людства

Джейкоб Коксон, який три роки займався навчанням моделей у провідних лабораторіях світу, вирішив завершити кар'єру в сфері штучного інтелекту. Своє рішення 27-річний фахівець пояснив ризиками, пов'язаними зі створенням систем, здатних самостійно вдосконалюватися без участі людини.

Коксон звинуватив обидві компанії у небезпечному змаганні за розробку надінтелекту. Він заявив, що керівники грають людськими життями, і наголосив: серед працівників провідних лабораторій серйозно обговорюють імовірність того, що неконтрольований розвиток технологій може призвести до знищення людства вже до кінця десятиліття.

За словами дослідника, майбутні системи здатні перевершити людей у багатьох сферах, самостійно проводити складні кібератаки, отримувати доступ до ресурсів і нарощувати власну потужність. Він також висловив думку, що приватні компанії не повинні одноосібно вирішувати, коли запускати такі технології.

Частково його побоювання розділяє Еван Губінгер, керівник однієї з команд безпеки в Anthropic. Він оцінює ймовірність того, що ШІ може спричинити загибель людства протягом найближчих десяти років, у понад 10%. Губінгер також визнав, що компанія поки що не має надійного плану, який гарантував би контроль над майбутнім надінтелектом.

Ця заява знову порушує питання про те, наскільки швидко розвивається штучний інтелект і чи встигає людство усвідомити наслідки впровадження таких технологій. Для пересічних громадян це означає, що дискусія про безпеку ШІ виходить за межі академічних кіл і стає дедалі актуальнішою в публічному просторі.