Пока что искусственный интеллект для большинства из нас — милая игра, которая делает жизнь проще и интереснее, однако те, кто непосредственно связан с разработкой ИИ, убеждены, что фантастические истории о том, как роботы уничтожают человечество, вполне реальны.
Так, группа исследователей из Оксфордского университета и подразделения Google DeepMind представила научный труд, в котором небезосновательно заявила, что одна из разновидностей ИИ (модель GAN — Generative Adversarial Network) в будущем способна нас уничтожить. Суть модели в том, что это одновременно два подвида ИИ, которые соревнуются друг с другом и учатся обманывать конкурента. Модель GAN способна эффективно выбирать, как действовать, чтобы достичь выгоды, и если окажется, что ей выгодно избавиться от человека, она может справиться с этой задачей.
«Если бы дело происходило в мире с бесконечными ресурсами, я бы ничего не боялся. Но конечность ресурсов означает, что за них неизбежно будет вестись борьба. Если ты находишься в противостоянии с неким агентом, который способен перехитрить тебя на каждом шагу, не стоит надеяться на победу».
