A OpenAI nomeou um "chefe de preparação", que supervisionará a segurança da inteligência artificial

OpenAI nomeou um novo líder de segurança da inteligência artificial

Em meio a crescentes preocupações sobre o uso seguro da IA, a OpenAI anunciou um novo membro da equipe – Dylan Scandino como *Head of Preparedness* (diretor de preparação).

Quem é Dylan Scandino?
PeríodoEmpresaFunçãoMaio 2023 – fevereiro 2024AnthropicLíder de projetos de segurança de IASetembro 2022 – maio 2025DeepMind (Google)Especialista em dados sintéticos para treinamento do GeminiAté 2022Palantir, Unity Technologies, Everyday RobotsDiversas posições em aprendizado de máquina e desenvolvimento de software
Scandino é conhecido por ter trabalhado em empregos anteriores com tarefas semelhantes de redução de riscos no desenvolvimento de modelos de IA.

O que significa a nova nomeação?
* Papel: posição de liderança na equipe de “preparação” – responsável por preparar e implementar medidas que permitam desenvolver modelos poderosos sem risco para os usuários.
* Condições: salário anual de US$ 550.000 mais ações da OpenAI.
* Contexto: desde 2023 a empresa tem uma “equipe de preparação”, anteriormente liderada por Alexander Madrid, especialista do MIT.

Como o CEO da OpenAI vê a situação
O diretor executivo Sam Altman observou que com o ritmo acelerado de desenvolvimento dos modelos, a empresa enfrentará riscos novos e mais graves. Ele destacou:

> “Vamos trabalhar em modelos muito poderosos. Isso exigirá precauções adequadas para garantir benefícios contínuos.”

Altman expressou confiança nas competências de Scandino:

*«Ele é o melhor candidato para essa função entre todas as pessoas que já encontrei», – disse ele.*

Ele acrescentou que, graças ao novo líder, a equipe poderá se concentrar na segurança a longo prazo e “dormir mais tranquilo”.

O que se espera de Scandino?
Scandino admitiu que modelos de IA em rápido desenvolvimento podem causar “danos extremos e até irreversíveis”. Assim, sua tarefa é:

* desenvolver estratégias de mitigação de riscos;
* implementar práticas seguras de treinamento e operação de modelos;
* coordenar os esforços de toda a equipe da OpenAI nessa área.

Conclusão
A OpenAI está ampliando sua estrutura de segurança ao trazer um especialista experiente de empresas líderes do setor. A nova nomeação destaca o compromisso da empresa com o desenvolvimento responsável da IA e a preparação para possíveis desafios futuros.