Google, OpenAI и ученые из Университета Беркли и Стэнфордского университета сформировали правила, которые необходимо учитывать при создании роботов и систем искусственного интеллекта.
В “Корпорации Добра” подчеркивают, что только строгое соблюдение этих законов обеспечит эффективное и безопасное развитие технологий.
5 важных законов робототехники:
-
Избегание негативных побочных эффектов. К примеру, робот может разбить вазу, чтобы ускорить процесс уборки. Этого быть не должно;
-
Избегание жульничества. Робот должен убрать мусор, а не прятать его;
-
Масштабируемость надзора. Робот не должен надоедать владельцу вопросами, если есть возможность получить совет более эффективно;
-
Безопасное обучение. Робот-уборщик не должен экспериментировать с протиранием розеток мокрой тряпкой;
- Устойчивость к изменению вида деятельности. Опыт, полученный роботом при уборке пола в цеху фабрики, может быть небезопасен при уборке офиса.
Отметим, что на планете до сих пор нет общепринятых правовых инструментов, которые бы регулировали бы сферы робототехники и ИИ, поэтому правила от Google и Ко являются лишь рекомендацией.
Источник: Google
