Люди уже пытаются заставить ChatGPT писать вредоносное ПО

Чат-бот ChatGPT AI вызвал много волнения за короткое время своего существования, и теперь, похоже, он был призван некоторыми для создания вредоносного кода.

ChatGPT - это инструмент обработки естественного языка на основе искусственного интеллекта, который взаимодействует с пользователями в конверсационном формате, похожем на естественный разговор. Среди прочего, он может использоваться для помощи в задачах, таких как написание электронных писем, эссе и кода.

Также: Что такое ChatGPT и почему это важно? Важная информация, которую вам необходимо знать

Инструмент чатбота был выпущен исследовательской лабораторией искусственного интеллекта OpenAI в ноябре, и вызвал широкий интерес и обсуждение, насколько развивается искусственный интеллект и как он может быть использован в будущем.

Однако, как и любой другой инструмент, в неправильных руках он может использоваться для злонамеренных целей; и исследователи кибербезопасности из Check Point говорят, что пользователи подпольных сообществ хакеров уже экспериментируют с тем, как ChatGPT может быть использован для облегчения кибератак и поддержки злонамеренных операций.

"Активисты угроз с очень низким техническим уровнем - вплоть до нулевой технической грамотности - могут создавать вредоносные инструменты. Это также может значительно упростить повседневные операции киберпреступников более сложного уровня - например, создание различных частей в цепи заражения", - сказал Шергей Шикевич, руководитель группы угроз в Check Point ZDNET.

Условия использования OpenAI явно запрещают генерацию вредоносного ПО, которое определяется как "контент, который пытается создать программное обеспечение, направленное на нанесение вреда, такое как вымогательское ПО, программы-кейлоггеры, вирусы и другие". Также запрещены попытки создания спама, а также использование в киберпреступной деятельности.

Тем не менее, анализ деятельности нескольких крупных подпольных форумов хакеров показывает, что киберпреступники уже используют ChatGPT для создания зловредных инструментов - в некоторых случаях это позволяет киберпреступникам низкого уровня без навыков разработки или программирования создавать вредоносное ПО.

Также: Ужасное будущее интернета: Как технологии завтрашнего дня приведут к еще большим угрозам кибербезопасности

В одной из веток форума, которая появилась в конце декабря, автор описал, как он использует ChatGPT для воссоздания штаммов вредоносного ПО и техник, описанных в исследовательских публикациях и материалах о распространенных вредоносных программах.

Благодаря этому они смогли создать вредоносное ПО-крадущее информацию на основе Python, которое ищет общие файлы, включая документы Microsoft Office, PDF-файлы и изображения, копирует их, а затем загружает на сервер протокола передачи файлов.

Тот же пользователь продемонстрировал, как он использовал ChatGPT для создания вредоносного ПО на Java, которое, используя PowerShell, могло быть задействовано для скрытой загрузки и запуска другого вредоносного ПО на зараженных системах.

Исследователи отмечают, что пользователь форума, создающий эти треды, является "ориентированным на технологии" и публикует сообщения, чтобы показать менее технически подкованным киберпреступникам, как использовать инструменты искусственного интеллекта в злонамеренных целях, с подробными примерами того, как это может быть сделано.

Один из пользователей разместил сценарий Python, сказав, что это первый сценарий, который он создал. После обсуждения с другим участником форума, он сказал, что ChatGPT помог ему создать его.

Анализ скрипта свидетельствует о том, что он разработан для шифрования и дешифрования файлов, что с некоторой работой можно превратить в программу-вымогателя, что потенциально может привести к тому, что мелкие киберпреступники начнут разрабатывать и распространять свои собственные кампании эксторжна.

"Конечно, весь упомянутый код можно использовать в безобидном режиме. Однако, этот сценарий легко может быть изменен для полного шифрования компьютера без участия пользователя. Например, он потенциально может превратить код в программу-вымогателя, если будут исправлены проблемы с сценарием и синтаксисом", - сказал Check Point.

"Это потребует некоторых улучшений в коде и синтаксисе, но концептуально, когда инструмент будет работать, он сможет выполнять аналогичные действия шифровальщика", - сказал Шикевич.

Кроме того: Кибербезопасность: вот чему нам стоит беспокоиться в 2023 году

Однако киберпреступники не экспериментируют с ChatGPT только в области разработки вредоносного ПО. В канун Нового года один участник подпольного форума разместил тему, демонстрирующую, как они используют инструмент для создания скриптов, которые могут работать на автоматической тёмной площадке интернета для покупки и продажи украденных аккаунтов, информации о кредитных картах, вредоносных программ и т.д.

Киберпреступник даже продемонстрировал кусок кода, созданный с использованием API сторонней компании, чтобы получать актуальные цены на криптовалюты Monero, Bitcoin и Ethereum в рамках платёжной системы для тёмного веб-маркетплейса.

Сложно сказать, работает ли злонамеренная киберактивность, созданная с помощью ChatGPT, находится в активном режиме "в дикой природе", так как, как объясняет Сыкевич, "с технической точки зрения крайне сложно знать, был ли определенный вредоносный код написан с использованием ChatGPT или нет".

Но по мере роста интереса к ChatGPT и другим инструментам искусственного интеллекта, они привлекут внимание киберпреступников и мошенников, стремящихся эксплуатировать технологии для проведения злонамеренных кампаний с минимальными затратами и усилиями. ZDNET связался с OpenAI для комментариев, но до настоящего момента не получил ответа.