O desenvolvimento tecnológico tem sempre prós e contras, e a inteligência artificial (IA) generativa não é diferente. Utilizada para trazer benefícios para pessoas e empresas, esta tecnologia emergente está também a ser utilizada para conduzir ciberataques como phishing, social engineering e ransomware.

A IA generativa recolhe dados e usa algoritmos para conteúdo automático para os mais variados meios de comunicação, além de criar também ferramentas e automatismos. E, assim como estas características da IA generativa trazem vantagens para os negócios e comuns cidadãos, também pode trazer vantagens para os actores do cibercrime.

 

Tabela de conteúdos

Cibercrime e a IA generativa

1. Como são utilizados LLMs e IA generativa em ciberataques?
2. Os ciberataques com IA generativa mais comuns

 

Conclusão

 

Cibercrime e a IA generativa

A previsão é da Google, no seu relatório “Google Cloud Cybersecurity Forecast 2024”, que alerta para o possível aumento dos ciberataques utilizando a inteligência artificial generativa neste ano.

Neste relatório, os especialistas em cibersegurança da Google advertem para esquemas de phishing mais credíveis e malware mais difícil de detectar, para o aumento de fotos e vídeos deepfake, assim como de ataques de dia zero, e ainda para ciberoperações levadas a cabo para ganhos geopolíticos.

Para realizarem ataques como estes, os actores do cibercrime tanto fazem uso da IA generativa como de Large Language Models (LLMs). Com estas duas tecnologias, hackers conseguem criar conteúdo para SMS, email ou chamadas telefónicas, em formato voz ou vídeo que parece perfeitamente legítimo.

 

Como são utilizados LLMs e IA generativa em ciberataques?

O phishing é dos ciberataques mais comuns, usando os hackers IA generativa ou não. Para o phishing que usa tecnologias emergentes, os actores de cibercrime usam a seu favor os LLMs e, claro, a IA.

Os Large Language Models têm a capacidade de recolher dados e informação não criptografada em tempo real de sites corporativos, sites noticiosos, entre outros. Com esta informação sempre actualizada, hackers conseguem criar conteúdos mais credíveis que façam com que utilizadores ajam com sentido de urgência.

A IA generativa, por sua vez, utiliza os chatbots para sua vantagem. Com esta tecnologia, hackers podem criar conteúdo como texto para SMS e emails, conteúdo de voz e vídeo deepfake para manipulação e extorsão e uma mais rápida propagação do malware.

Além deste uso, os chatbots de IA, como o ChatGPT, conseguem programar e ensinar a programar. Assim, a IA pode treinar hackers a criar ransomware ou mesmo escrever partes do código para esse fim.

 

Os ciberataques com IA generativa mais comuns

Como referido anteriormente, o phishing é um dos cibercrimes que fazem uso da IA generativa mais comuns. Isto porque a IA generativa tem o poder de utilizar dados para criar conteúdo que, à primeira vista, parece legítimo. Existem vários subtipos de ataques de phishing, desde voz, vídeos e fotografias deepfake, mensagens de texto, entre outros.

 

Phishing e IA generativa

Utilizando a inteligência artificial generativa, os ataques de phishing deixam de ter erros gramaticais e conseguem reproduzir de forma mais fidedigna um contexto sociocultural, assim como campanhas actuais de entidades reconhecíveis pela maior parte da população.

E, porque a IA consegue imitar a linguagem humana, torna-se mais complicado saber que uma comunicação não veio de fontes seguras.

 

Ciberataques de Vishing

O Voice Phishing, também conhecido por Vishing, é a estratégia utilizada para enganar o alvo do ciberataque e fazê-lo partilhar informação sensível. Nestes ciberataques, é replicada a voz de um contacto familiar e criado um cenário de urgência para que as vítimas actuem sem pensar nos detalhes daquela chamada.

Um dos mais recentes ataques de Vishing teve como alvo os resorts da MGM, no qual um atacante se fez passar por um colaborador e pediu um reset das suas credenciais, acabando por ter acesso à rede interna da gigante de casinos. No caso da MGM, os atacantes levaram a cabo um ataque de ransomware, mas este tipo de esquema pode ser utilizando para efeitos de phishing.

 

Ataques de Social Engineering

Utilizando as redes sociais como meio para obter e analisar dados pessoais, os actores de cibercrime conseguem criar esquemas de phishing de acordo com serviços e produtos dos quais os seus alvos costumam estar próximos.

Com estas plataformas, é possível saber quais os produtos que alguém mais procura ou que serviços costuma utilizar recorrentemente para criar ataques de phishing ainda mais convincentes e efectivos.

A IA generativa tem um papel fulcral na análise de dados e na elaboração de emails e mensagens que causem urgência nos alvos e os façam pagar dívidas que não têm ou partilhar dados pessoais com uma entidade falsa.

Este tipo de ataques é também conhecido como spear phishing, dado que são altamente específicos e tendem para atacar um pequeno grupo de pessoas de cada vez.

 

Voz, vídeos e fotografias deepfakes

Com a inteligência artificial generativa, é cada vez mais fácil criar conteúdo que parece bastante real, ainda que seja actividade fraudulenta. Além de serem utilizados para phishing e ransomware, o tipo de conteúdo deepfake é ainda utilizado para efeitos de desinformação, manipulação, chantagem e extorsão.

Assim, com fotos, voz e vídeos falsos, os atacantes conseguem replicar uma pessoa e pô-la num contexto indesejado.

 

Ataques automatizados

Os algoritmos de Machine Learning conseguem identificar vulnerabilidades em sistemas de cibersegurança, visto que analisam grandes quantidades de dados. Em conjunto com algoritmos de inteligência artificial, hackers automatizam as várias fases de um ataque para que o processo se desenrole mais rapidamente.

 

Evasão de sistemas de defesa

Para concretizar ciberataques, hackers exploram as vulnerabilidades de sistemas de segurança e de defesa utilizando algoritmos de inteligência artificial. Estes conseguem identificar pontos de fraqueza no código, encontrando portas de entrada para evadir segurança de endpoint e desactivando sistemas de detecção de intrusos.

 

Malware inteligente

Quando se junta IA generativa e malware, só há um resultado: malware inteligente, que se adapta ao contexto dos alvos sem ser preciso que a mão humana esteja sempre presente.

Este tipo de malware consegue evitar ser detectado e enganar sistemas de segurança, assim como propagar-se rapidamente. O facto de se moldar aos alvos do ataque faz com que seja mais difícil de identificar e de os alvos se protegerem contra ele.

 

Conclusão

A IA generativa que trouxe bastantes vantagens para os cidadãos comuns e para empresas é a mesma que dá benefícios a actores do cibercrime.

Esta tecnologia emergente não é, por ela própria, responsável por esquemas de phishing, ransomware ou ataques de social engineering, mas contribui, inevitavelmente, para que hackers conduzam ciberataques mais efectivos.

Com a inteligência artificial, large language models e machine learning, estes atacantes podem criar esquemas de phishing mais credíveis e/ou com um público-alvo mais específico, criar malware inteligente e indetectável aos sistemas de segurança, e ainda conseguir levar a cabo um crime de ransomware.