Гендиректор Anthropic Амодеї запропонував узгодити темпи розвитку ШІ
Даріо Амодеї запропонував незалежно оцінювати безпеку ШІ та координувати роботу лабораторій у демократичних країнах.
Гендиректор Anthropic Даріо Амодеї представив підхід до узгодження темпів розвитку передових систем штучного інтелекту. Його пропозиція передбачає залучення незалежних оцінювачів безпеки та координацію між лабораторіями ШІ в демократичних країнах.
За даними TechCrunch, план Амодеї з’явився через тиждень після попередження дослідника Anthropic про потенційні небезпеки ШІ, яке привернуло увагу індустрії.
Незалежна оцінка безпеки
Ключовими елементами ініціативи є незалежна перевірка безпеки систем і взаємодія лабораторій, що розробляють ШІ. Пропозиція вже отримала певну підтримку в технологічній індустрії.
Розбіжності в індустрії
Водночас очільник Nvidia Дженсен Хуанг висловив різку незгоду з цим підходом. У випуску подкасту Equity ведучі Кірстен Коросек, Ентоні Ха та Шон О’Кейн обговорили, чи зможуть компанії домовитися про те, що саме означає уповільнення розвитку ШІ, і хто має контролювати дотримання таких домовленостей.
