Cadenciar o avanço da IA é importante. Construir uma empresa resiliente é urgente

Recentemente, li o artigo de Dario Amodei, cofundador e CEO da Anthropic, intitulado “We Must Pace the Frontier”. Ele argumenta de forma contundente que as capacidades da Inteligência Artificial estão avançando muito mais rápido do que o nosso poder de alinhamento, interpretabilidade e avaliação conseguem acompanhar. O seu plano começa com avaliadores independentes que tenham acesso contínuo, semelhante ao de um funcionário, para verificar como os laboratórios de IA de fronteira operam.

Eu concordo plenamente com o princípio por trás de seu argumento: a capacidade de ação da IA não deve avançar mais rápido do que a nossa capacidade de torná-la segura. Ditar esse ritmo não significa parar o progresso. Significa dar ao trabalho de segurança a chance de acompanhar as novas capacidades. Isso se torna ainda mais vital à medida que os sistemas de IA começam a ajudar no desenvolvimento da próxima geração de modelos de linguagem.

No entanto, da linha de frente das empresas, temos que lidar com o que já está acontecendo agora. As empresas estão implantando copilotos, assistentes de código e agentes autônomos de forma acelerada. Os funcionários estão experimentando, e os  concorrentes já estão usando a IA para acelerar e melhorar suas operações. A adoção corporativa simplesmente não vai esperar por um acordo global sobre o ritmo de desenvolvimento da tecnologia.

Precisamos, portanto, trabalhar em duas frentes simultâneas. Os laboratórios de fronteira devem continuar tornando os modelos mais seguros, enquanto cada empresa precisa construir a resiliência necessária para gerenciar as capacidades de IA que já estão em uso.

Essa é a distinção prática entre "segurança de IA" e "resiliência corporativa". A segurança da IA busca reduzir comportamentos prejudiciais ou não intencionais na base do modelo. Já a resiliência de agentes assume que algumas falhas, ataques e surpresas ainda ocorrerão, e prepara a empresa para resistir e se recuperar deles.

Na Cohesity, apoiamos modelos de fronteira tanto abertos quanto fechados em nosso trabalho de defesa cibernética, participando de cinco grandes iniciativas que abordam os riscos da adoção da IA, como o Project Glasswing da Anthropic e o Google Gemini for Cyber. Esses esforços ajudam a garantir que a resiliência da IA abranja agentes, identidades e dados.

Apoio um cuidado maior na fronteira do desenvolvimento. A indústria deve levar a sério a melhoria recursiva, o comportamento dos agentes e o uso indevido cibernético. Mas as empresas não podem basear sua estratégia de segurança na suposição de que tudo se comportará como o planejado ou que toda ação prejudicial será detectada a tempo. Ditar o ritmo pode tornar a fronteira mais segura, mas é a resiliência que mantém a sua empresa funcionando quando os controles de segurança falham.