Gestão da reputação na era da desinformação da IA

O lado negro da IA ​​para comunicadores.

Mike Nachshen é diretor da Fortis Strategic Communications, LLC.

Comunicados de imprensa em segundos. Uma cornucópia de conteúdo. Análises automatizadas de mídia. Já se tornou um clichê dizer que a Inteligência Artificial generativa vai mudar a profissão de Comunicação.

Mas há um outro lado da moeda “A IA está transformando as comunicações para melhor”.

A IA também torna mais fácil para qualquer pessoa atacar a reputação da sua organização. Pense em funcionários insatisfeitos, concorrentes antiéticos, clientes irritados – ou um jovem entediado de 15 anos com muito tempo disponível.

Isso porque a IA democratiza a desinformação. Dá a qualquer pessoa a capacidade de criar e difundir eficazmente desinformação num âmbito, velocidade, escala e qualidade que anteriormente pertenciam apenas aos governos. Aqui estão algumas maneiras pelas quais isso está acontecendo:

A IA cria conteúdo autenticamente inautêntico:

Aquela imagem viral do papa com um casaco fofo? A “foto” do ex-presidente Donald Trump sendo preso? O “videoclip” do rap do presidente Joe Biden?

Eram todos deepfakes – mídia gerada por computador com conteúdo muito realista, mas totalmente fabricado.

E esses deepfakes enganaram MUITAS pessoas.

A IA faz um trabalho incrível ao criar conteúdo falsificado que parece real. E está apenas melhorando.

Quase não há barreiras à entrada:

Quer criar um deepfake?

Tudo que você precisa é de um computador, acesso à internet e alguns dólares.

De acordo com a National Public Radio, um pesquisador criou recentemente um vídeo deepfake muito convincente dele mesmo dando uma palestra. Demorou oito minutos, custou US$ 11 e ele fez isso usando IAs disponíveis comercialmente.

Criar desinformação nem sequer requer conhecimento especializado em programação. Muitas IAs comerciais podem criar deepfakes com base em alguns prompts simples de texto simples.

Criar conteúdo escrito com aparência autêntica é igualmente fácil e barato.

Em 2019, um pesquisador de Harvard enviou comentários gerados por IA ao Medicaid, que a Wired.com relatou que as pessoas não sabiam dizer se eram falsos. O pesquisador criou esse conteúdo usando Chat GPT 2.0; O Chat GPT 4.0, que é exponencialmente melhor, foi lançado há algumas semanas; a assinatura mensal custa US$ 20.

Velocidade e escala sem precedentes

Um mau ator não precisa passar horas inventando informações erradas. Basta o prompt certo e a IA lançará uma torrente quase interminável de desinformação sobre sua marca. Em seguida, sincronize isso com um algoritmo gerado por IA e eles poderão lançar um tsunami de notícias falsas nas redes sociais, visando diretamente a reputação da sua organização.

Precisão incrível e rápida

A profissão de comunicação é excelente na compreensão do público. As IAs não conseguem “compreender” audiências como nós, humanos, mas certamente conseguem analisar audiências de forma mais rápida, barata e talvez mais precisa do que alguma vez conseguiríamos. Em seguida, ele pode usar essa análise para criar desinformação personalizada e direcionada quase em tempo real.

A desinformação gerada pela IA já está afetando os negócios, a política — e os comunicadores. Em maio, uma foto falsa de uma explosão no Pentágono se tornou viral no Twitter, impulsionada por notícias do Estado russo. O S&P 500 caiu brevemente três décimos de ponto percentual antes que os profissionais de relações públicas do Departamento de Defesa e do Corpo de Bombeiros do Condado de Arlington conseguissem controlar a situação.

E estamos apenas na ponta do iceberg da desinformação da IA. Como apontou um recente artigo de pesquisa conjunta de Georgetown, OpenAI e Stanford, “[IA] melhorará o conteúdo, reduzirá o custo e aumentará a escala da campanha [de desinformação]… [e] introduzirá novas formas de engano…”

A má notícia: não existem soluções mágicas. Nenhuma política, solução técnica ou peça legislativa irá resolver o problema.