Trillium Labs планує відкрито досліджувати ризики ШІ
Trillium Labs хоче відкрито демонструвати дослідження самовдосконалення та поведінки моделей штучного інтелекту.
Лабораторія Trillium Labs прагне проводити відкриті дослідження у сфері штучного інтелекту з високими ставками та публічно демонструвати свою роботу над самовдосконаленням і поведінкою моделей. Про це повідомляє BBC News.
Такий підхід відрізняється від практики багатьох лабораторій, що працюють із передовими моделями ШІ. Їхні дослідження, пов’язані з потенційно ризикованими напрямами, часто залишаються закритими для широкої публіки.
Відкритість досліджень
Trillium Labs хоче показувати результати роботи у сферах, які стосуються здатності моделей до самовдосконалення та особливостей їхньої поведінки. Компанія обрала відкритий формат для досліджень, які в індустрії зазвичай можуть не розкривати.
Робота з поведінкою моделей
У центрі уваги лабораторії — два напрями: самовдосконалення моделей ШІ та їхня поведінка. У матеріалі ці дослідження охарактеризовано як високоризикові, тоді як Trillium Labs має намір робити свою роботу в цих сферах публічною.
