Илон Маск назвал вероятность, с которой ИИ уничтожит человечество

Во время проведения семинара Great AI Debate Илон Маск поделился своими мыслями по поводу развития современных ИИ-алгоритмов. В частности, он назвал ориентировочную вероятность «бунта» искусственного интеллекта, которую другие специалисты отрасли считают ощутимо заниженной.

По словам миллиардера, на сегодняшний день вероятность «восстания машин», при котором ИИ-технологии обернутся против людей, составляет от 10 до 20%. Впрочем, по его мнению, такой риск оправдан. Он утверждает, что в целях безопасности необходимо развивать ИИ таким образом, чтобы он предоставлял лишь правдивую информацию.

Ранее исследователи обнаружили, что как только ИИ научится лгать людям, его поведение уже невозможно будет изменить с помощью существующих мер безопасности. Издание The New York Times назвала это заявление «пугающей новой статистикой, охватившей Кремниевую долину», при этом различные руководители технологических компаний дают весьма пессимистичную оценку негативного исхода — вплоть до 50%.

Роман Ямпольский, исследователь безопасности ИИ и директор лаборатории кибербезопасности в Университете Луисвилля, также утверждает, что Маск прав, говоря об угрозе ИИ. По его мнению, фактическая вероятность захвата искусственным интеллектом контроля над человечеством намного выше, чем утверждает Маск (более 99%).