Executivos de empresas de IA apresentam riscos tecnológicos à ONU
Executivos da OpenAI, Anthropic e Hugging Face apresentam nesta quarta-feira ao Conselho de Segurança da Organização das Nações Unidas (ONU) um relatório sobre os riscos associados ao avanço da inteligência artificial. A reunião ocorre durante a Assembleia Geral anual da entidade e reúne representantes dos 15 membros do conselho.
Empresas discutem segurança da inteligência artificial
O presidente-executivo da OpenAI, Sam Altman, o presidente-executivo da Anthropic, Dario Amodei, e o cofundador da Hugging Face, Clément Delangue, participam da apresentação.
O encontro ocorre em meio a alertas sobre o desenvolvimento de sistemas de inteligência artificial cada vez mais avançados. Entre as preocupações discutidas está a possibilidade de tecnologias futuras apresentarem capacidade de aprimoramento próprio, reduzindo a possibilidade de controle humano sobre seu funcionamento.
A discussão também envolve os possíveis impactos dessas tecnologias sobre a segurança internacional.
OpenAI defende parâmetros para avaliar sistemas
Segundo um executivo da OpenAI ouvido por jornalistas na terça-feira, Sam Altman pretende defender a adoção de parâmetros de referência para medir as capacidades dos sistemas de inteligência artificial.
A proposta também envolve a avaliação das medidas de segurança adotadas pelas empresas durante o desenvolvimento de novas tecnologias.
A intenção é estabelecer formas de acompanhar a evolução das capacidades da IA e verificar os mecanismos utilizados para reduzir riscos associados ao seu funcionamento.
Conselho de Segurança debate riscos internacionais
Os integrantes do Conselho de Segurança também devem participar da discussão. Entre eles estão Estados Unidos e China, países que possuem empresas e investimentos relevantes no desenvolvimento de inteligência artificial.
A reunião será presidida pelo ministro das Relações Exteriores da França, Jean-Noël Barrot.
De acordo com um diplomata europeu, que falou sob condição de anonimato, um dos principais objetivos do encontro é discutir riscos práticos relacionados à possibilidade de sistemas de inteligência artificial apresentarem comportamentos que afetem a segurança de países.
Entre as questões levantadas está a possibilidade de sistemas automatizados interagirem entre si e produzirem consequências capazes de atingir áreas relacionadas à segurança internacional.
EUA e China discutem sistema de notificações
A discussão sobre inteligência artificial ocorre também em meio às negociações entre Estados Unidos e China.
Antes de uma reunião entre o presidente norte-americano, Donald Trump, e o líder chinês, Xi Jinping, prevista para quinta-feira, os dois países discutiram a criação de um sistema de notificação voltado a objetivos e ameaças comuns.
A proposta mencionada no material inclui a possibilidade de abranger incidentes relacionados à inteligência artificial que atinjam determinado nível de impacto.
A apresentação no Conselho de Segurança ocorre, portanto, em um momento de discussão internacional sobre como acompanhar o avanço das tecnologias de inteligência artificial e estabelecer medidas de segurança diante de seus possíveis efeitos.