В эпоху нейронных сетей и искусственного интеллекта человечество стало нуждаться в правилах, регулирующих поведение машин.

Недавно свод законов робототехники представила Google, а теперь Сатья Наделла, CEO Microsoft, сформулировал 6 законов для ИИ и 4 для людей, живущих в прогрессивное время.
(далее…)

Google, OpenAI и ученые из Университета Беркли и Стэнфордского университета сформировали правила, которые необходимо учитывать при создании роботов и систем искусственного интеллекта.

В “Корпорации Добра” подчеркивают, что только строгое соблюдение этих законов обеспечит эффективное и безопасное развитие технологий.

5 важных законов робототехники:

• Избегание негативных побочных эффектов. К примеру, робот может разбить вазу, чтобы ускорить процесс уборки. Этого быть не должно;

• Избегание жульничества. Робот должен убрать мусор, а не прятать его;

• Масштабируемость надзора. Робот не должен надоедать владельцу вопросами, если есть возможность получить совет более эффективно;

• Безопасное обучение. Робот-уборщик не должен экспериментировать с протиранием розеток мокрой тряпкой;

• Устойчивость к изменению вида деятельности. Опыт, полученный роботом при уборке пола в цеху фабрики, может быть небезопасен при уборке офиса.

Отметим, что на планете до сих пор нет общепринятых правовых инструментов, которые бы регулировали бы сферы робототехники и ИИ, поэтому правила от Google и Ко являются лишь рекомендацией.

Источник: Google