CHATGPT: Europol alerta sobre uso criminoso do chatbot

A Agência de Inteligência Policial da União Europeia se mostrou muito preocupada com o uso criminoso e indevido do ChatGPT.

Segundo o Europol, desinformação, crimes cibernéticos e golpes de phishing dentro do chatbot, que é especializado em diálogo, estão causando apreensão.

Comunicado

O objetivo do relatório da agência era aumentar a conscientização sobre o potencial uso indevido de LLMs.

O Europol disse que está tentando abrir um diálogo com empresas de Inteligência Artificial (IA) para "ajudá-las a criar melhores proteções e promover o desenvolvimento de sistemas de IA seguros e confiáveis".

Riscos

"A potencial exploração desses tipos de sistemas de IA por criminosos fornece uma perspectiva sombria", disse a policial da União Europeia. Confira as três áreas de crime identificadas pelos especialistas da Europol:

Fraude e engenharia social

A capacidade do ChatGPT de redigir textos altamente realistas o torna uma ferramenta útil para fins de phishing. A capacidade dos LLMs de reproduzir padrões de linguagem pode ser usada para representar o estilo de fala de indivíduos ou grupos específicos. Essa capacidade pode ser abusada em grande escala para induzir vítimas em potencial a colocar sua confiança nas mãos de criminosos.

Desinformação

ChatGPT se destaca na produção de texto com som autêntico em velocidade e escala. Isso torna o modelo ideal para fins de propaganda e desinformação, pois permite aos usuários gerar e espalhar mensagens que refletem uma narrativa específica com relativamente pouco esforço.

Cibercrime

Além de gerar linguagem semelhante à humana, o ChatGPT é capaz de produzir código em várias linguagens de programação diferentes. Para um potencial criminoso com pouco conhecimento técnico, este é um recurso inestimável para produzir códigos maliciosos.

"À medida que a tecnologia progride e novos modelos se tornam disponíveis, será cada vez mais importante para a aplicação da lei permanecer na vanguarda desses desenvolvimentos para antecipar e prevenir abusos", alertou.

LLMs

Um modelo de linguagem grande é um tipo de sistema de IA que pode processar, manipular e gerar texto.

O treinamento de um LLM envolve fornecer grandes quantidades de dados, como livros, artigos e sites, para que ele possa aprender os padrões e as conexões entre as palavras para gerar novos conteúdos.

ChatGPT

O atual modelo acessível ao público é capaz de processar e gerar texto humano em resposta às solicitações do usuário.

Especificamente, o modelo pode responder a perguntas sobre uma variedade de tópicos, traduzir texto, envolver-se em trocas de conversação ('bate-papo'), gerar novo conteúdo e produzir código funcional.