Мир новых технологий (обзоры, новинки)
Интернет становится местом ожесточенной резни, и Элон Маск говорит, что продвинутый искусственный интеллект может усугубить эту резню еще больше. В Твиттере Маска появилось сообщение, что системы, которые поддерживают Интернет в работе, уязвимы к обычным грубым компьютерным атакам — а в этой области искусственный интеллект уже преуспел.
21 октября неизвестная группа хакеров отключила часть Интернета в Соединенных Штатах и Европе массивной DoS-атакой. Хакеры использовали массивный ботнет — сеть связанных компьютеров, способных выполнять согласованные функции — простых устройств «Интернета вещей», чтобы перегрузить сервера Dyn Systems, которая обеспечивает DNS-обслуживание гигантскому числу сайтов, включая Spotify, Twitter, Netflix и Reddit. Считается, что атаку выполнила группа людей или один человек, которая подключила и скоординировала ботнет. Но в будущем, как говорит Маск, массивные DDoS-атаки могут проводиться силами ИИ и сеять хаос в инфраструктуре, которая поддерживает нас на цифровых ногах.
29 октября Economist опубликовал статью под названием «Кто-то учится ронять Интернет», в которой изучил феномен растущего числа DDoS-атак и почему мы так плохо с ними справляемся. Маск ответил на статью и добавил пугающий прогноз: однажды этим «кем-то» будет не человек, а продвинутый ИИ.
С этого момента все становится сложнее. На данный момент цифровые атаки вроде тех, что используют хакеры для выведения из строя веб-сайтов, как правило, управляются людьми. Но по мере того, как ИИ становится все лучше и лучше, хакеры начнут использовать его для оптимизации атак на инфраструктуру Интернета, которая «особенно уязвима» для так называемого «алгоритма градиентного спуска». Градиентный спуск — это математический процесс, который берет сложную функцию и находит наиболее оптимальное решение. ИИ прекрасно справляется с градиентным спуском, что делает его особенно эффективным в возможном деле организации массивных DDoS-атак с использованием плохо защищенных устройств «Интернета вещей».
Но если обе стороны (хакеры и кибербезопасность) будут использовать продвинутый ИИ, Маск говорит, что это может привести к разборкам ИИ против ИИ на поле битвы.
Маск открыто выступает против нерегулируемого развития искусственного интеллекта. Он не против этой технологии в целом, но считает, что попытки сделать умных роботов должны быть открытыми и прозрачными, чтобы не допустить распространения гоняющихся за прибылью корпораций, которые развяжут руки ИИ. Появление разумных компьютеров неизбежно, но нужно убедиться, что они будут безопасны.