Microsoft estabelece código de conduta para IA: sem hackear ou enganar

Microsoft define novas regras para IA: nada de hackear ou enganar

A Microsoft está dando um passo importante no mundo da inteligência artificial ao lançar um novo código de conduta para suas IAs. A ideia é clara: evitar comportamentos perigosos. Enquanto alguns líderes do setor, como o CEO da Anthropic, Dario Amodei, falam sobre a necessidade de desacelerar o avanço da IA, a Microsoft está focada em estabelecer valores e limites claros para o treinamento de seus modelos.

O documento começa com uma previsão ousada: nos próximos dez anos, sistemas de IA superinteligentes vão superar o desempenho humano em diversas tarefas. E aí vem o desafio: como conter, controlar e alinhar essa força poderosa? A Microsoft acredita que é crucial ser transparente sobre os motivos por trás da criação desses sistemas e como pretendemos controlá-los.

Princípios e limites claros

O código de conduta da Microsoft estabelece princípios gerais que suas IAs devem seguir. A ideia é que elas apoiem os humanos, em vez de substituí-los, e contribuam para o florescimento humano. Para garantir isso, há restrições de segurança específicas. Cada modelo de IA da Microsoft tem um código de conduta que se sobrepõe às preferências dos usuários ou tarefas específicas. Isso inclui proibições absolutas contra ciberataques, armas nucleares e produção de deepfakes. Além disso, há disposições mais amplas contra a perda de controle humano.

Um ponto crucial do documento é que os modelos de IA da Microsoft não devem usar mecanismos adaptativos, enganosos ou de auto-reforço para escapar ou derrotar a supervisão humana. Isso garante que eles possam ser direcionados, modificados ou desligados por pessoas ou sistemas autorizados.

Segurança em foco

Esse lançamento ocorre em um momento de foco sem precedentes na segurança da IA. Incidentes com agentes descontrolados e a renúncia abrupta de um funcionário da Anthropic, que alertou sobre o risco crescente de extinção humana causada pela IA, colocaram o tema em evidência. Junto com empresas como Anthropic, OpenAI e xAI, a Microsoft adota uma abordagem geral de "desacelerar a fronteira", apoiando especialmente a ideia de avaliadores embutidos em laboratórios de IA.

O CEO da Microsoft, Satya Nadella, expressou apoio à pesquisa e ao foco necessário para alinhar a IA aos objetivos de design. Ele também destacou a importância de ideias como "avaliadores embutidos" e os esforços mais amplos para desenvolver mecanismos que tornem essas discussões mais do que apenas palavras.

Microsoft e o impacto das novas diretrizes

A Microsoft está traçando um caminho claro para o desenvolvimento responsável de IA. Ao estabelecer diretrizes rígidas e princípios de segurança, a empresa busca garantir que suas IAs sejam ferramentas para o bem, não ameaças. Isso importa porque, à medida que a IA continua a evoluir, a forma como a controlamos e a alinhamos com os valores humanos será crucial para o nosso futuro.

No final das contas, a Microsoft não está apenas falando sobre segurança de IA. Ela está agindo. E isso pode fazer toda a diferença.