Дослідники ШІ попередили про ризик вимирання людства через надінтелект
Дослідники OpenAI, Google та Anthropic у відеоінтерв’ю попередили про можливі екзистенційні ризики надінтелектуального ШІ.
Група нинішніх і колишніх співробітників OpenAI, Google та Anthropic у відеоінтерв’ю попередила про потенційні екзистенційні ризики, які, на їхню думку, може створити надінтелектуальний штучний інтелект. Добірку інтерв’ю опублікувала організація Palisade Research, повідомляє The Verge.
Оцінки ризику
Джеффрі Ірвінг, який раніше працював в OpenAI та Google DeepMind, заявив, що, на його думку, ймовірність вимирання людства становить приблизно 50%. Науковець-дослідник Google DeepMind Ніл Нанда оцінив імовірність такого наслідку щонайменше у 10% і назвав цей показник надзвичайно високим.
Колишній дослідник OpenAI Деніел Кокотайло сказав, що надінтелектуальний ШІ міг би бути «богоподібно могутнім». За його словами, люди не знають, як контролювати такі системи, тому їхня поява не повинна бути допущена.
Чому дослідники працюють у галузі
На сайті frominside.ai доступні повні записи розмов, а також окремі фрагменти, у яких учасники пояснюють, чому продовжують роботу в індустрії, попри власні застереження. Серед тем також є питання, чи не є подібні заяви перебільшенням або маркетингом.
Мері Фуонг із Google зазначила, що до її слів варто ставитися критично, оскільки вона отримує зарплату від лабораторії. Ніл Нанда своєю чергою пояснив: якби не вважав, що його робота безпосередньо зменшує екзистенційні ризики, він би звільнився. Водночас, за його словами, компанії не припинять створювати такі системи лише через його вихід із роботи.
