IA e cibersegurança: o dilema da inovação na era digital

Uma visão abrangente sobre as tendências, desafios e estratégias de cibersegurança em um mundo impulsionado pela IA.

Por Redação em 28 de maio de 2024 6 minutos de leitura

ciberseguranca
Ilustração gerada com inteligência artificial

A ascensão da Inteligência Artificial (IA) tem sido uma catalisadora de mudanças em vários setores da economia. Como toda grande transformação, traz consigo desafios complexos. Um deles é a cibersegurança, como mostrou o relatório “Perspectiva Global de Cibersegurança” de 2024, realizado pelo Fórum Econômico Mundial em parceria com a Accenture.

Os insights reunidos no documento abordam as diversas intersecções do tema, como a crescente instabilidade geopolítica, o avanço acelerado das tecnologias e a lacuna cada vez maior nas capacidades cibernéticas organizacionais. Um chamado urgente para o fortalecimento da resiliência e da colaboração global sistemática.

Tendências globais em cibersegurança

ciberseguranca

No ano de 2023, o mundo se viu diante de uma ordem geopolítica polarizada, com múltiplos conflitos armados e um cenário de tanto ceticismo quanto entusiasmo em relação às implicações das tecnologias futuras. Tudo isso em meio a uma incerteza econômica global. Nesse contexto complexo, segundo o relatório, a economia de cibersegurança registrou um crescimento exponencial mais rápido do que a economia global como um todo, superando até mesmo o avanço do setor de tecnologia. 

Leia também: Inteligência Artificial avança no mercado imobiliário

Se em 2022, a economia da cibersegurança já havia crescido duas vezes mais rápido do que a economia mundial, em 2023, esse crescimento foi quatro vezes ainda mais acelerado. No entanto, o modo como esse crescimento foi experimentado variou consideravelmente entre organizações e países.

Essa discrepância na equidade cibernética é ampliada pelos contornos do panorama de ameaças, pelas tendências macroeconômicas, pela regulamentação industrial e pela adoção antecipada de tecnologias inovadoras por algumas organizações. Outras barreiras, como o aumento dos custos de acesso a serviços cibernéticos inovadores, ferramentas, habilidades e expertise, continuam a impactar a capacidade do ecossistema global de construir um ciberespaço mais seguro.

A disparidade na resiliência cibernética entre organizações está se aprofundando e deve se intensificar, ampliando o abismo entre organizações altamente capazes de se proteger contra ameaças cibernéticas e aquelas que estão lutando para acompanhar o ritmo.

Ao mesmo tempo, a carência de habilidades e talentos no campo da cibersegurança está aumentando a uma taxa alarmante, agravando a vulnerabilidade cibernética global. Segundo o levantamento, apenas 15% das organizações estão otimistas de que as habilidades e a educação em cibersegurança melhorarão significativamente nos próximos dois anos. Além disso, 52% das organizações públicas afirmam que a falta de recursos e habilidades é seu maior desafio ao projetar a resiliência cibernética.

Perspectiva global de cibersegurança

A tecnologia emergente está se tornando mais amplamente disponível e de forma muito mais rápida que no passado, o que superou a capacidade de a sociedade civil, reguladores e organizações, verdadeiramente, implementarem os princípios de segurança.

Contudo, as organizações estão prestando atenção e reagindo para mitigar os riscos da adoção de tecnologias emergentes. A ascensão de grandes modelos de linguagem (LLMs) e Inteligência Artificial generativa ao longo dos últimos 12 meses é um exemplo. 

Ao integrar essa tecnologia aos sistemas de segurança, é possível automatizar os processos de verificação de ataques cibernéticos. Com algoritmos avançados e aprendizado de máquina, os sistemas de IA podem detectar padrões suspeitos e comportamentos anormais em tempo real, alertando rapidamente as equipes de segurança sobre possíveis ataques. Dessa forma, a automação não apenas reduz a carga de trabalho dos especialistas de TI, mas também aumenta significativamente a eficiência na identificação de ameaças.

Além disso, a Inteligência Artificial pode ser usada para aprimorar a resposta a incidentes cibernéticos. Com a capacidade de analisar e correlacionar grandes volumes de dados em tempo real, os sistemas de IA podem identificar a origem e o escopo de um ataque com rapidez e precisão. Isso permite que as equipes de segurança ajam proativamente para mitigar os danos e proteger os sistemas contra futuras explorações. 

Na Perspectiva Global de Cibersegurança de 2022, aproximadamente metade dos líderes afirmaram que a automação e o aprendizado de máquina teriam maior influência na cibersegurança nos dois anos seguintes. Quase dois anos depois, os executivos ainda sentem o mesmo – em 2024, aproximadamente metade dos líderes ainda concorda que a Inteligência Artificial generativa terá o maior impacto na cibersegurança nos próximos dois anos. Setores como cibersegurança (65%), agricultura (63%), bancos (56%) e seguros (56%) tiveram as maiores porcentagens de líderes escolhendo a Inteligência Artificial generativa como a maior influência na cibersegurança.

Desafios da cibersegurança 

Embora a Inteligência Artificial seja uma poderosa aliada na defesa do ciberespaço, há também um lado sombrio a considerar. Um total de 56% dos líderes afirmaram que a Inteligência Artificial generativa concederá uma vantagem aos ciberatacantes sobre os defensores nos próximos dois anos.

A Inteligência Artificial está se tornando mais sofisticada e indivíduos mal-intencionados estão aproveitando a IA para realizar ataques mais elaborados, incluindo a automação de atividades maliciosas. É esperado que, em 2024, haja um aumento significativo no uso de IA em ciberataques.

Um software malicioso conhecido como WormGPT, poer exemplo, já tem despertado preocupações no âmbito da segurança cibernética. Apelidado de “ChatGPT malicioso”, o programa foi desenvolvido com o propósito de disseminar e-mails de phishing e comprometer contas bancárias para roubar dinheiro de vítimas desprevenidas. Ele combina as características de um “worm”, um tipo de malware reconhecido por sua capacidade de auto-replicação e rápida disseminação entre um grande número de computadores, com as funcionalidades avançadas de um modelo de linguagem semelhante ao GPT, desenvolvido pela OpenAI. Os chatbots de Inteligência Artificial generativa estão tornando muito mais fácil para os criminosos cibernéticos criar e-mails de phishing convincentes e escrever malwares personalizados. 

ciberseguranca
Foto: Reprodução/Dazed

O relatório inclui um case para ilustrar tal façanha. Em agosto de 2023, uma empresa de software foi vítima de um dos ataques de engenharia social mais avançados e complicados, que utilizou Inteligência Artificial para criar um áudio deepfake de um funcionário. A empresa foi inicialmente alvo de uma campanha de smishing bem planejada e direcionada, com o tema de inscrição aberta para seguro saúde. 

Um funcionário clicou no link, na mensagem de texto, e forneceu suas credenciais ao sistema falso. Logo após, o atacante recebeu as credenciais e ligou para o telefone do funcionário para recuperar o código de autenticação multifator (MFA). Essas ações levantaram suspeitas por parte do funcionário, mas como o atacante usou um áudio deepfake de um colega familiar, o funcionário ignorou os sinais de alerta e forneceu seu código de MFA ao atacante. 

Entre as credenciais e o código de MFA, o atacante conseguiu adicionar seu dispositivo pessoal à conta Okta do funcionário (Okta é uma nuvem de identidade que conecta todos os aplicativos, logins e dispositivos). Isso permitiu ao atacante obter aprovação dos sistemas de autenticação usados pela organização vítima. Embora a atribuição direta a um chatbot malicioso possa ser difícil, as organizações podem esperar ainda mais desses ataques de phishing, vishing e smishing complexos e convincentes.

Como afirmou Kris Burkhardt, Chief Information Security Officer Global da Accenture, os chatbots têm sensores integrados e controles proativos para prevenir abusos, mas os criminosos cibernéticos estão adotando grandes modelos de linguagem para criar serviços maliciosos.

Estratégias para maximizar a segurança na era da Inteligência Artificial

ciberseguranca
Ilustração gerada com inteligência artificial

Embora os riscos associados ao uso da IA sejam significativos, não se pode ignorar seu potencial para melhorar a segurança de ativos de empresas e países. Em vez disso, é necessário buscar maneiras de gerenciá-los e encontrar um equilíbrio que permita mitigar ameaças enquanto se aproveita os benefícios dessa tecnologia inovadora. 

Segundo o relatório, para garantir uma cibersegurança eficaz, é preciso incorporá-la como um facilitador estratégico dos negócios e das sociedades. Isso requer a adoção de medidas para estabelecer e manter os pilares básicos de segurança, o que inclui a implementação de firewalls, antivírus, atualizações regulares de software e políticas de segurança de dados.

Além disso, é essencial compreender os impulsionadores econômicos por trás do risco cibernético e seu impacto nos negócios. A perda de dados confidenciais, interrupções operacionais e danos à reputação podem resultar em custos significativos para uma organização. Portanto, investir em cibersegurança não apenas protege os ativos da empresa ou de um país, mas também protege a saúde financeira.

Leia também: Inteligência artificial nos bairros: aliada para a transformação

Para incorporar efetivamente a cibersegurança à estratégia é vital integrar a governança de resiliência cibernética. Isso envolve a implementação de políticas e procedimentos robustos para identificar, avaliar e mitigar os riscos. Ao alinhar a gestão do risco cibernético com as necessidades das organizações, é possível garantir que os recursos sejam alocados de forma eficaz para proteger os ativos mais críticos.

Por fim, o design organizacional também desempenha um papel fundamental na garantia da cibersegurança. Isso inclui a atribuição de responsabilidades claras, a criação de uma cultura de segurança e a integração da cibersegurança em todos os aspectos das operações. Ao garantir que o design organizacional suporte a cibersegurança, as organizações podem fortalecer sua postura de segurança e mitigar os riscos de maneira proativa com alto nível de governança.