Sinônimo de inteligência artificial (IA) desde o lançamento do ChatGPT, em novembro de 2022, a OpenAI acaba de anunciar um novo modelo de IA generativa capaz de produzir vídeos ultra-realistas a partir de descrições em texto. Os resultados, que enganam até os olhos mais atentos, impressionam, mas também assustam.

Chamado de Sora, o novo modelo está disponível, ao menos por enquanto, para equipes que avaliam riscos da tecnologia, que já pode criar cenas complexas com múltiplos personagens, movimentos específicos e detalhes precisos do ambiente descrito.

A nova plataforma, no entanto, ainda enfrenta limitações, como dificuldades em compreender detalhes simples ou direções, além de falhar na compreensão de leis básicas da física que move o mundo real.

Como o aprimoramento de qualquer IA é exponencial, é provável que em pouco tempo essas deficiências estejam superadas. Os riscos, por sua vez, demandam esforços maiores.

Uma das principais preocupações diz respeito à manipulação e disseminação de informações falsas. Como o Sora é capaz de criar vídeos convincentes a partir de textos, há o risco de que seja utilizado para propagar notícias falsas, desinformação e até propaganda manipulativa. Mitigar essa ameaça requer a implementação de um bom sistema de freios, além da verificação de fontes e a validação de conteúdo gerado pela IA antes de sua disseminação.

Outra questão que preocupa é a proteção dos direitos autorais. Isso porque a nova tecnologia, assim como todo modelo de linguagem baseado em IA, cria conteúdos a partir de milhões de outros materiais existentes, que alimentam sua base de dados. Existe, portanto, o risco de que os vídeos produzidos pela plataforma violem direitos de terceiros — que o digam os artistas que já viram seus trabalhos usurpados por IAs que geram imagens.

Quanto à segurança, a OpenAI diz estar tomando medidas proativas. Segundo a empresa, metadados, ou seja, informações “ocultas” que acompanham o arquivo, são adicionados ao conteúdo gerado pelo Sora, facilitando a identificação daquilo que é produzido artificialmente.

Além disso, o modelo recusa automaticamente solicitações que envolvam violência e conteúdo sexual, por exemplo.

Com relação aos direitos autorais, a gigante do setor de IA afirma que abriu espaço para que artistas visuais, designers e cineastas colaborem para “aprimorar o produto”, mas não deixou claro o que está fazendo, de fato, para não violar regras de propriedade intelectual. Se esse diálogo será suficiente, o tempo dirá.

À medida que o Sora evolui, será essencial manter a vigilância quanto aos seus impactos. Afinal, o verdadeiro progresso tecnológico não deve comprometer valores fundamentais, de modo que o sucesso da nova ferramenta dependerá não apenas de sua capacidade de gerar vídeos realistas, mas também de fazer isso de forma ética, responsável e transparente. Garantir que a tecnologia opere conforme os parâmetros legais será fundamental para que essa inovação contribua positivamente para o avanço da sociedade e não se torne mais uma fonte de problemas.