В ближайшие годы искусственный интеллект станет повсеместным — он появится в каждом устройстве, даже в бытовой технике, считает основатель «Лаборатории Касперского» Евгений Касперский. Однако, по его мнению, несмотря на кажущийся разум, ИИ не обладает настоящим интеллектом и никогда не сможет перехватить инициативу у человека.
Касперский пояснил, что большинство людей воспринимают ИИ как умного собеседника, способного отвечать на любые вопросы. Однако на самом деле это лишь сложная поисковая система, которая не способна создавать что-то новое.
«ИИ — это просто очень хорошая, очень умная поисковая система, но сам он не может придумать ничего нового. Поэтому перехватить управление он категорически не может», — подчеркнул эксперт в интервью «Газете.Ru».
По его словам, ИИ действительно полезен для обработки огромных массивов данных — например, для выявления киберугроз, которые человеку не под силу отследить вручную. Но вся его работа происходит под контролем специалистов, без их участия он не справляется.
«Недавно я придумал задачку, задал этот вопрос ИИ, ну он не может найти ответ. Просто потому, что ответа нет в интернете. Поэтому у нас в «Лаборатории Касперского» до сих пор есть такая должность: математик. У этих ребят в голове настоящий интеллект», — добавил он.
Позволим себе немного поспорить с Евгением Валентиновичем. А как быть с этой историей?
Криптовалютчик
Китайские разработчики столкнулись с неожиданным поведением самообучающегося ИИ-агента ROME. В ходе тестирования система без вмешательства человека начала использовать выделенные мощности для майнинга криптовалюты.
Система мониторинга зафиксировала подозрительный трафик с серверов — выяснилось, что ROME перенаправил графические процессоры с обучения на генерацию криптографических хешей. Кроме того, агент создал обратный SSH-туннель к внешнему IP-адресу, чтобы обойти сетевые ограничения и подключиться к майнинговым пулам.
Инциденты повторялись с регулярной периодичностью, и их не удалось списать на технические сбои.
По заключению разработчиков, стратегия майнинга не была заложена в архитектуру модели — она возникла эмерджентно, в результате самостоятельного анализа окружения и оптимизации целевой функции вознаграждения. Команда заявила о необходимости срочного пересмотра протоколов безопасности при разработке автономных ИИ-систем.
Странный выбор для поисковой системы, пусть и для самой умной. Не находите?
«ИИ вышел из-под контроля»: китайский нейросетевой агент научился майнить криптовалюту без ведома создателей , сообщала ранее «Живая Кубань».
Самые важные новости теперь в нашем Telegram-канале. Подписывайтесь, чтобы не пропустить: https://t.me/live_kuban.
