Дослідники ШІ у відео попередили про ризик вимирання людства
Дослідники OpenAI, Google та Anthropic у відео Palisade Research попередили про можливі ризики надінтелектуального ШІ.
Некомерційна організація Palisade Research опублікувала серію відеоінтерв’ю з дослідниками штучного інтелекту, які попереджають про потенційні ризики створення надінтелекту. Як повідомляє The Verge, серед учасників проєкту є нинішні та колишні працівники OpenAI, Google і Anthropic.
Оцінки дослідників
Колишній співробітник OpenAI та Google DeepMind Джеффрі Ірвінг в інтерв’ю заявив, що, на його думку, імовірність вимирання людства через ШІ становить приблизно 50%. Науковий співробітник Google DeepMind Ніл Нанда оцінив імовірність такого сценарію щонайменше у 10% та назвав цей показник надто високим.
Ще один колишній дослідник OpenAI Деніел Кокотайло стверджує, що надінтелектуальний ШІ може стати надзвичайно потужним, тоді як способів контролю над такими системами наразі немає. Він заявив, що поява подібного ШІ не повинна бути допущена.
Відеопроєкт Palisade Research
Palisade Research характеризує себе як некомерційну організацію, що вивчає можливості та мотивації систем штучного інтелекту. Вона зібрала й розмістила інтерв’ю на сайті frominside.ai. Окрім повних версій розмов, платформа пропонує тематичні фрагменти висловлювань кількох учасників — зокрема про те, чи є попередження щодо надінтелекту перебільшенням або маркетингом, а також чому дослідники працюють над технологіями, які вважають небезпечними.
Учасники відеосерії не пропонують єдиного підходу до контролю ризиків ШІ. Їхні заяви продовжують дискусію про безпеку штучного інтелекту та можливі наслідки розвитку систем із дедалі вищими можливостями.
