Chefe de segurança cibernética dos EUA faz upload de documentos confidenciais para o ChatGPT
O diretor interino da Cybersecurity and Infrastructure Security Agency (CISA), a principal agência de segurança cibernética dos EUA, foi responsável por um incidente de segurança no ano passado. Madhu Gottumukkala fez o upload de documentos confidenciais do governo em uma versão pública do ChatGPT. De acordo com informações obtidas pelo Politico de quatro funcionários do DHS, essa ação acionou vários alertas de segurança automatizados. Esses sensores são projetados para evitar o roubo ou a divulgação não intencional de material do governo em redes federais. Os sistemas teriam disparado alarmes várias vezes somente durante a primeira semana de agosto.
Gottumukkala usou uma isenção especial para acessar o chatbot de IA, que ele havia solicitado ao diretor de informações da CISA logo após assumir o cargo em maio. Naquela época, o aplicativo era restrito aos funcionários regulares do Departamento de Segurança Interna. Embora os arquivos carregados não fossem documentos confidenciais, eles eram documentos contratuais marcados como "Somente para uso oficial". Essa designação indica informações confidenciais que não se destinam à divulgação pública.
O incidente é particularmente controverso devido à natureza técnica da ferramenta utilizada. As entradas na versão pública do ChatGPT são transmitidas para o desenvolvedor OpenAI e, teoricamente, podem ser usadas para treinar ainda mais o modelo ou responder a consultas de outros usuários. Por outro lado, as ferramentas de IA oficialmente aprovadas e usadas pelo Departamento de Segurança, como o "DHSChat" interno, são configuradas para que nenhum dado ou consulta de pesquisa saia das redes federais protegidas. A OpenAI afirma que o serviço agora tem mais de 700 milhões de usuários ativos, destacando o risco de exposição em potencial.
Enquanto isso, a CISA está tentando amenizar a situação. A porta-voz Marci McCarthy disse que o uso foi aprovado, de curto prazo, limitado e ocorreu sob precauções de segurança. Ela também contradisse a linha do tempo e disse que o diretor usou a ferramenta pela última vez em meados de julho. Isso contradiz as declarações dos funcionários de que os sensores de segurança ainda registravam uploads no início de agosto. Uma investigação interna está agora tentando determinar se o incidente causou algum dano real. O incidente faz parte de uma série de controvérsias em torno de Gottumukkala, que, segundo relatos, já havia sido reprovado em um teste de polígrafo para contrainteligência.
