GoogleOpenAI и ученые из Университета Беркли и Стэнфордского университета сформировали правила, которые необходимо учитывать при создании роботов и систем искусственного интеллекта.

Роботы

В “Корпорации Добра” подчеркивают, что только строгое соблюдение этих законов обеспечит эффективное и безопасное развитие технологий.

5 важных законов робототехники:

  • Избегание негативных побочных эффектов. К примеру, робот может разбить вазу, чтобы ускорить процесс уборки. Этого быть не должно;

  • Избегание жульничества. Робот должен убрать мусор, а не прятать его;

  • Масштабируемость надзора. Робот не должен надоедать владельцу вопросами, если есть возможность получить совет более эффективно;

  • Безопасное обучение. Робот-уборщик не должен экспериментировать с протиранием розеток мокрой тряпкой;

  • Устойчивость к изменению вида деятельности. Опыт, полученный роботом при уборке пола в цеху фабрики, может быть небезопасен при уборке офиса.

Отметим, что на планете до сих пор нет общепринятых правовых инструментов, которые бы регулировали бы сферы робототехники и ИИ, поэтому правила от Google и Ко являются лишь рекомендацией.

Источник: Google