spot_img

Google озвучил 5 принципов безопасности робототехники

Сотрудники корпорации совместно с учеными сформулировали пять проблем, которые необходимо решить разработчикам искусственного интеллекта.

Принципы были разработаны компаниями Google и OpenAI совместно с Калифорнийским университетом в Беркли и Стэнфордским университетом, сообщает nplus1.ru.

Статья, опубликованная в Сети, призвана конкретизировать потенциальные опасности, которые необходимо учитывать при разработках искусственного интеллекта (ИИ).

— избегание нежелательных побочных эффектов (например, робот может разбить вазу, если это ускорит процесс уборки);

— избегание жульничества (тот же робот может просто прикрыть мусор, а не убрать его);

— гибкая потребность в надзоре (например, если робот может посоветоваться с человеком при выполнении задачи, он не должен надоедать вопросами);

— безопасное обучение (упомянутому роботу-уборщику не стоит экспериментировать с протиркой розеток мокрой тряпкой);

— устойчивость к смене деятельности (например, работы по уборке в цехе металлообработки и в химической лаборатории принципиально различаются).

Решить указанные проблемы можно как с помощью человеческого надзора при обучении роботов, так и ограничивая пространство деятельности ИИ. Тем не менее исследователи признают, что этого недостаточно и необходимы ответственные, открытые и междисциплинарные усилия разработчиков, подчеркивают в Google.

Подписывайтесь на наш телеграм-канал «В курсе.ру | Новости Перми»

Поделиться:

Редакция «В курсе.ру»
Редакция «В курсе.ру»
Редакция «В курсе.ру»

Последние новости

Боксер Майк Тайсон выпустил конфеты в виде уха со следами укуса

Теперь жевательные конфеты можно купить в аптеках Нью-Йорка.

В Перми пройдёт фестиваль любительских театров «Воздух»

Фестиваль будет проходить с 29 по 31 марта.

Пермский край вновь поднялся в рейтинге социального благополучия

На этот раз регион поднялся на пять позиций вверх в общероссийском рейтинге.