Google озвучил 5 принципов безопасности робототехники

Сотрудники корпорации совместно с учеными сформулировали пять проблем, которые необходимо решить разработчикам искусственного интеллекта.

Принципы были разработаны компаниями Google и OpenAI совместно с Калифорнийским университетом в Беркли и Стэнфордским университетом, сообщает nplus1.ru.

Статья, опубликованная в Сети, призвана конкретизировать потенциальные опасности, которые необходимо учитывать при разработках искусственного интеллекта (ИИ).

— избегание нежелательных побочных эффектов (например, робот может разбить вазу, если это ускорит процесс уборки);

— избегание жульничества (тот же робот может просто прикрыть мусор, а не убрать его);

— гибкая потребность в надзоре (например, если робот может посоветоваться с человеком при выполнении задачи, он не должен надоедать вопросами);

— безопасное обучение (упомянутому роботу-уборщику не стоит экспериментировать с протиркой розеток мокрой тряпкой);

— устойчивость к смене деятельности (например, работы по уборке в цехе металлообработки и в химической лаборатории принципиально различаются).

Решить указанные проблемы можно как с помощью человеческого надзора при обучении роботов, так и ограничивая пространство деятельности ИИ. Тем не менее исследователи признают, что этого недостаточно и необходимы ответственные, открытые и междисциплинарные усилия разработчиков, подчеркивают в Google.

Подписывайтесь на наш телеграм-канал «В курсе.ру | Новости Перми»
Редакция «В курсе.ру»
Редакция «В курсе.ру»

Поделиться:

Последние новости

В России могут разрешить тратить маткапитал на покупку автомобиля

Подобная мера позволит существенно повысить качество жизни семей с детьми

Певица Мадонна объявила кастинг на молодого любовника

Главный критерий к будущему избраннику возраст и телосложение