Cybersecurity

ChatGPT na cibersegurança: Em que ponto de maturidade estamos?

ChatGPT na cibersegurança: Em que ponto de maturidade estamos?

Os recentes avanços de inteligência artificial, especificamente de modelos de linguagem natural de grande porte (LLM – Large Language Model) como o ChatGPT ou o LlaMa, prometem revolucionar todas as áreas de conhecimento e os negócios que delas derivam. Mas qual é o nível de maturidade das “big IAs” ? 

As tecnologias de IA visam acelerar a área da cibersegurança, ajudando a melhorar as capacidades de detecção de ameaças. Os modelos de LLM analisam grandes volumes de dados e identificam potenciais vulnerabilidades e ataques cibernéticos. Também são capazes de entender padrões nos dados para identificar comportamentos suspeitos e detectar anomalias, categorizar malware, phishing e outras ameaças cibernéticas, o que facilita a resposta rápida e eficaz dos analistas de segurança.

Os modelos de linguagem em grande escala são capazes de entenderem a linguagem natural e gerarem textos que são indistinguíveis da escrita humana, coerentes e gramaticalmente corretos. Ou seja, conseguem consumir grandes quantidades de dados, como logs, e extrair informações utilizando a própria linguagem do ser humano. As habilidades dos modelos derivam da capacidade deles de “entender” a linguagem do dia a dia.

Um sonho para os analistas de cibersegurança, uma grande ferramenta para tratar grandes volumes de dados como os centralizados em um SIEM. Análise à velocidade da máquina. Mas ,infelizmente, não é a tão desejada bala de prata para resolver os gargalos de segurança da informação.

Existem três grandes desafios de implementar IA com sucesso em uma operação de cibersegurança:

  1. Especificidade

Os grandes modelos, apesar de sua versatilidade em lidar com diferentes domínios de conhecimento, não oferecem um desempenho confiável quando se trata de aplicações especializadas. Ou seja, em palavras mais simples, o IA não acerta sempre, menos que um ser humano em situações complexas. De fato, nenhum dos grandes fabricantes certifica e garante os resultados entregues por suas IAs.

  1. Privacidade

Pela alta demanda de recursos computacionais, é difícil ter uma instância local do modelo de IA. Ademais, os modelos são proprietários e funcionam como caixas pretas. O analista envia dados para um terceiro (a IA) avaliar e recebe os resultados. Esta arquitetura oferece diversas brechas que podem ser exploradas por atacantes e a falta de transparência sobre o tratamento de dados também é preocupante.

  1. Dados

Independentemente da capacidade da IA, ela sempre vai precisar de dados para poder entregar resultados. Se os dados são de baixa qualidade, as análises serão de baixa qualidade.

Ou seja, para melhorar a segurança da informação, as organizações precisam dos melhores dados possíveis.

Concluindo, as IAs ainda estão aprendendo a caminhar na área de cibersegurança. Até surgir a possibilidade de executar modelos na borda (edge computing), treiná-los para serem mais sensíveis às considerações de privacidade ou latência dos usuários e assegurando que os dados do usuário não saiam do dispositivo, os LLMs precisam ser utilizados com muita cautela. Ademais, os modelos dependem de dados de alta qualidade, seja para o treinamento do aprendizado de máquina, ou para análises certeiras do conteúdo dos dados em si, independentemente da capacidade dos modelos. Persiste a necessidade por soluções de observabilidade e detecção.


Este conteúdo foi útil para você? Compartilhe em suas redes sociais:


Sobre a Zerum

A Zerum é uma empresa de Data Science líder em inovação que fornece visibilidade e entendimento em tempo real sobre fluxos de dados complexos. Nossos produtos, serviços e tecnologias ajudam grandes organizações a reduzir gargalos operacionais, combater ameaças cibernéticas avançadas, detectar fraudes e manter comunidades seguras.


📝 Para saber mais, entre em contato através do formulário abaixo.








    Related articles

    Baseline dinâmica – O que é e por que usar?
    Baseline dinâmica – O que é e por que usar?

    Mesmo com os melhores dados à disposição, contextualizar grandes volumes de informações é...

    3 meses atrás

    By Zerum Team

    Guia Rápido: O que é TDIR – Threat Detection and Incident Response?
    Guia Rápido: O que é TDIR – Threat Detection and Incident Response?

    A Detecção de Ameaças e Resposta a Incidentes (do inglês Threat Detection and...

    4 meses atrás

    By Zerum Team

    O risco residual cibernético: Maior do que se estima
    O risco residual cibernético: Maior do que se estima

    Sua empresa investiu pesado em cibersegurança: adquiriu todas as ferramentas de ponta disponíveis...

    4 meses atrás

    By Zerum Team