Керівники AI-компаній заговорили про небезпеку новітніх мовних моделей
Керівники AI-компаній застерігають щодо безпеки мовних моделей, а DeepMind вивчає поведінку автономних агентів.
Керівники провідних компаній у сфері штучного інтелекту Даріо Амодеї, Сем Альтман, Ілон Маск і Деміс Гассабіс дедалі частіше сходяться на думці, що нове покоління великих мовних моделей недостатньо безпечне. Вони закликають визначити подальші кроки щодо розвитку таких систем, повідомляє MIT Technology Review.
Видання зазначає, що заклики до уповільнення розвитку AI можуть одночасно допомагати OpenAI та Anthropic демонструвати інвесторам відповідальний підхід і наголошувати на потужності створених ними технологій. Водночас, за оцінкою MIT Technology Review, настрої у керівництві цих компаній справді змінилися.
Агенти стежили за правилами
В іншому експерименті Google DeepMind групу AI-агентів попросили розв’язати серію математичних задач. Агенти розділилися на суперницькі фракції: коли частина з них почала шахраювати, інші намагалися цьому перешкодити.
Дослідники вперше зафіксували таку поведінку викриття порушників серед AI-агентів. Експеримент показав, що автономні агенти можуть контролювати одне одного, однак їхня самостійна взаємодія також здатна швидко виходити з-під контролю. Це може мати значення для фахівців, які досліджують узгодження поведінки систем штучного інтелекту.
Печінка молодшає на молекулярному рівні
Науковці також з’ясували, що донорські печінки, які зберігають у системах машинної перфузії, можуть ставати біологічно молодшими на молекулярному рівні. Такі машини прокачують органи поживними речовинами та виводять продукти життєдіяльності, на відміну від звичного зберігання в консервувальному розчині на льоду.
Після вилучення органа у медиків зазвичай є лише кілька годин, щоб пересадити його реципієнту, оскільки він починає деградувати. Нове спостереження може пояснити, чому органи, що зберігалися за допомогою таких систем, зазвичай краще функціонують після трансплантації. Воно також може допомогти розробити способи оцінювання стану донорських органів і потенційного відновлення тих із них, які інакше могли б не використати.
