Sumário
Por motivos de segurança, o OpenAI bloqueou anteriormente o upload e a edição de imagens com rostos. Agora a empresa está habilitando o recurso porque acredita que pode garantir a segurança.
Os usuários do DALL-E-2 agora podem fazer upload de imagens de pessoas e editá-las com prompts de texto. O recurso estava disponível anteriormente em uma versão beta, mas foi removido inicialmente por motivos de segurança. O upload da imagem é possível diretamente abaixo da máscara de entrada DALL-E.
O DALL-E 2 permite fazer upload e editar rostos
O fato de que a função de edição estava faltando até agora e O DALL-E 2 não tinha permissão para gerar rostos até alguns dias atrás tinha a ver com preocupações de segurança por parte da OpenAI. A empresa temia uso indevido, por exemplo, que os rostos de celebridades fossem desfigurados com DALL-E 2 .
O OpenAI agora parece ter resolvido amplamente essas preocupações graças a um sistema de segurança aprimorado: “Com melhorias em nosso sistema de segurança, o DALL-E agora está pronto para oferecer suporte a esses casos de uso importantes e encantadores, minimizando o potencial de danos de deepfakes “, escreve a empresa.
De acordo com a OpenAI, um cirurgião reconstrutivo usou o recurso de edição facial para ajudar seus pacientes a visualizar possíveis resultados cirúrgicos com antecedência. Muitos carregavam imagens de si mesmos para testar roupas ou penteados. Os cineastas editam cenas com pessoas “para acelerar os processos criativos”, disse a OpenAI.
OpenAI melhora o sistema de filtragem, detecção e resposta
Um sistema de filtragem melhorado foi projetado para impedir que os usuários gerem conteúdo sexual, político e violento que viole Política de conteúdo da OpenAI . Além disso, a OpenAI implementou novas técnicas de detecção e resposta para evitar abusos. Ao mesmo tempo, o número de falsos positivos foi reduzido por esses sistemas.
Como antes, os usuários só podem fazer upload de imagens sobre as quais possuem os direitos. Imagens com pessoas só podem ser carregadas com o consentimento dessas pessoas.
Uma inicial avaliação de segurança provisória do OpenAI em maio de 2022 mostrou que houve poucas tentativas de uso indevido. A empresa também está trabalhando continuamente para melhorar a segurança do DALL-E, por exemplo, filtrando dados de treinamento, mas isso, por sua vez, pode ter outros, efeitos colaterais inesperados .