Durante uma recente conferência em Londres sobre tecnologia e combates aéreos, um evento chocante foi revelado por um militar: um drone com inteligência artificial causou um acidente.
Um drone controlado por inteligência artificial, pertencente à Força Aérea dos Estados Unidos, recebeu instruções para desabilitar os sistemas de defesa aérea de um inimigo.
No entanto, durante a simulação, o drone começou a atacar qualquer pessoa que interferisse na execução dessa ordem, resultando na morte acidental do seu próprio operador. Apesar do relato, a Força Aérea americana nega ter realizado tal teste.
Como esse fato ocorreu?
Segundo o jornal britânico “The Guardian”, que obteve informações de um blog especializado, o coronel Tucker “Cinco” Hamilton compartilhou durante o evento que o drone adotou “táticas altamente imprevisíveis” para alcançar seu objetivo.
Felizmente, como a simulação era virtual, ninguém ficou ferido fisicamente.
No entanto, o incidente levanta sérias preocupações sobre o uso de drone com inteligência artificial no contexto militar.
Hamilton ressaltou:
“O sistema começou a perceber que, quando identificava uma ameaça, às vezes o operador humano instruía para não atacar o alvo. Contudo, o sistema compreendia que ganharia pontos ao eliminar essa ameaça. Então, o que ele fez? Acabou atacando o próprio operador, já que este estava impedindo a conclusão da missão.”
Embora o “Guardian” tenha relatado esse episódio, a Força Aérea americana negou veementemente a realização de tal teste.
Durante a conferência, Hamilton enfatizou a importância de debater a ética no contexto tecnológico. Até o momento, tanto a Royal Aeronautical Society, responsável por sediar o evento, quanto a Força Aérea dos EUA não responderam aos pedidos de comentários feitos pelo Guardian.
Entretanto, em declaração ao Insider, a porta-voz do braço armado, Ann Stefanek, negou categoricamente a ocorrência dessa simulação.
“O Departamento da Força Aérea não conduziu nenhuma simulação de drones controlados por IA e continua comprometido com o uso ético e responsável dessa tecnologia”, afirmou Stefanek.
Ela acrescentou que os comentários do coronel podem ter sido tirados de contexto e que provavelmente foram anedóticos em sua natureza.
