Mundo
Perante os riscos da IA, Califórnia cria painel de segurança e pondera "kill switch"
O governador Gavin Newsom assinou uma ordem executiva que determina a formação de um painel de especialistas para reforçar a segurança das empresas de inteligência artificial sediadas no estado norte-americano, como a OpenAI ou a Anthropic.
O governador da Califórnia, o democrata Gavin Newsom, determinou esta sexta-feira a formação de um painel para propor novas regras de segurança destinadas às empresas de inteligência artificial sediadas no estado norte-americano, como a OpenAI ou a Anthropic.
Na ordem executiva, assinada pelo governador californiano, consta a possibilidade de desenvolver um mecanismo de emergência para desligar sistemas de IA que saiam fora de controlo, denominado como um “kill switch”.
“Impulsionar a criação de um 'kill switch' para os modelos mais avançados, cuja eficácia seja verificada de forma contínua por uma organização independente”, lê-se na ordem executiva assinada por Newsom.
O objetivo é contar com o contributo dos principais especialistas na área que ajudem a elaborar orientações para reforçar a legislação da Califórnia em matéria de segurança da inteligência artificial.
Recorde-se que, há dois anos, o governador Newsom - que pondera uma candidatura à Casa Branca em 2028 - vetou uma proposta legislativa estadual que tornaria obrigatório esse mecanismo.
Esta opção do governo estadual da Califórnia surge numa altura em que nos EUA e no mundo - e os próprios engenheiros de desenvolvimento das principais empresas de inteligência artificial - levantam preocupações e receios face aos riscos de se perder o controlo humano dos modelos mais avançados de inteligência artificial.
Na ordem executiva, assinada pelo governador californiano, consta a possibilidade de desenvolver um mecanismo de emergência para desligar sistemas de IA que saiam fora de controlo, denominado como um “kill switch”.
“Impulsionar a criação de um 'kill switch' para os modelos mais avançados, cuja eficácia seja verificada de forma contínua por uma organização independente”, lê-se na ordem executiva assinada por Newsom.
O objetivo é contar com o contributo dos principais especialistas na área que ajudem a elaborar orientações para reforçar a legislação da Califórnia em matéria de segurança da inteligência artificial.
Recorde-se que, há dois anos, o governador Newsom - que pondera uma candidatura à Casa Branca em 2028 - vetou uma proposta legislativa estadual que tornaria obrigatório esse mecanismo.
Esta opção do governo estadual da Califórnia surge numa altura em que nos EUA e no mundo - e os próprios engenheiros de desenvolvimento das principais empresas de inteligência artificial - levantam preocupações e receios face aos riscos de se perder o controlo humano dos modelos mais avançados de inteligência artificial.
