A Agência de Inteligência Policial da União Europeia se mostrou muito preocupada com o uso criminoso e indevido do ChatGPT.
Segundo o Europol, desinformação, crimes cibernéticos e golpes de phishing dentro do chatbot, que é especializado em diálogo, estão causando apreensão.
Comunicado
O objetivo do relatório da agência era aumentar a conscientização sobre o potencial uso indevido de LLMs.
O Europol disse que está tentando abrir um diálogo com empresas de Inteligência Artificial (IA) para "ajudá-las a criar melhores proteções e promover o desenvolvimento de sistemas de IA seguros e confiáveis".
.
Riscos
"A potencial exploração desses tipos de sistemas de IA por criminosos fornece uma perspectiva sombria", disse a policial da União Europeia. Confira as três áreas de crime identificadas pelos especialistas da Europol:
Fraude e engenharia social
A capacidade do ChatGPT de redigir textos altamente realistas o torna uma ferramenta útil para fins de phishing. A capacidade dos LLMs de reproduzir padrões de linguagem pode ser usada para representar o estilo de fala de indivíduos ou grupos específicos. Essa capacidade pode ser abusada em grande escala para induzir vítimas em potencial a colocar sua confiança nas mãos de criminosos.
.
Desinformação
ChatGPT se destaca na produção de texto com som autêntico em velocidade e escala. Isso torna o modelo ideal para fins de propaganda e desinformação, pois permite aos usuários gerar e espalhar mensagens que refletem uma narrativa específica com relativamente pouco esforço.
Cibercrime
Além de gerar linguagem semelhante à humana, o ChatGPT é capaz de produzir código em várias linguagens de programação diferentes. Para um potencial criminoso com pouco conhecimento técnico, este é um recurso inestimável para produzir códigos maliciosos.
.
"À medida que a tecnologia progride e novos modelos se tornam disponíveis, será cada vez mais importante para a aplicação da lei permanecer na vanguarda desses desenvolvimentos para antecipar e prevenir abusos", alertou.
LLMs
Um modelo de linguagem grande é um tipo de sistema de IA que pode processar, manipular e gerar texto.
.
O treinamento de um LLM envolve fornecer grandes quantidades de dados, como livros, artigos e sites, para que ele possa aprender os padrões e as conexões entre as palavras para gerar novos conteúdos.
ChatGPT
O atual modelo acessível ao público é capaz de processar e gerar texto humano em resposta às solicitações do usuário.
.
Especificamente, o modelo pode responder a perguntas sobre uma variedade de tópicos, traduzir texto, envolver-se em trocas de conversação ('bate-papo'), gerar novo conteúdo e produzir código funcional.
Comentários