OpenAI інвестує в дослідження алгоритмів для розуміння моралі
November 25, 2024
Компанія OpenAI виділила грант дослідникам Університету Дюка на вивчення алгоритмів, здатних передбачати моральні судження людей.
Мета проєкту — навчити ШІ вирішувати етичні конфлікти
Проєкт, відомий як «Дослідження ШІ–моралі», триватиме до 2025 року. Його керівник, професор Волтер Сіннотт-Армстронг, відмовився коментувати проміжні результати. Утім, раніше він разом із колегою Яною Борг опублікував книгу про потенціал штучного інтелекту як «морального GPS», здатного допомогти людям приймати етичні рішення.
Дослідники вже мають досвід розробки алгоритмів, що допомагають визначати, кому краще віддати донорські органи. Вони також вивчали ситуації, де люди готові довірити ШІ ухвалення складних рішень.
OpenAI ставить перед собою мету навчити алгоритми «прогнозувати моральні судження людей» у складних медичних, юридичних та бізнесових конфліктах.
Компанія Сема Альтмана також працює над запуском ШІ–агента під кодовою назвою «Оператор», що може стати наступним проривом у сфері штучного інтелекту.