Google — одна из лидирующих IT-компаний в области разработки искусственного интеллекта. Одновременно с этим дочернее предприятие DeepMind занимается исследованием и предотвращением возможных опасностей.
Пусть Илон Маск не верит в восстание машин, разработчики создали «тревожную кнопку» — последний рубеж обороны человечества.
Нажатие кнопки моментально остановит работу искусственного интеллекта без вреда для изобретения и людей.
«Если подобный агент работает в реальном времени под наблюдением человека, порой от оператора может потребоваться нажатие большой красной кнопки, чтобы предотвратить вредоносную последовательность действий агента (вредоносную как для него самого, так и для его окружения) и перевести агента в безопасный режим», — комментирует изобретение член команды DeepMind.
«Тревожная кнопка» не решает всех проблем, которые могут возникнуть с ИИ. Алгоритмы вроде Q-learning легко остановить, однако для некоторых подобный аварийный метод не сработает. Поэтому технология нуждается в обилии модификаций, начало которым положено.
Источник: Gizmodo
