Para tentar atrasar o crescente avanço do uso das inteligências artificiais para “criação” de artes, uma nova ferramenta promete permitir que os artistas adicionem alterações invisíveis aos pixels em sua arte antes de postá-la on-line, para que, caso sejam usadas no treinamento de IA, os pixels alterados possam fazer com que o resultado seja estragado de maneira caótica e imprevisível.
A ferramenta, chamada Nightshade, pretende ser uma forma de combater empresas de IA que usam o trabalho de artistas para treinar suas IAs sem a permissão dos criadores. O uso da ferramenta para “envenenar” esses dados de treinamento pode prejudicar futuras criações geradas pelas IA, como DALL-E, Midjourney e Stable Diffusion, ao tornar inúteis alguns de seus resultados – cães se tornam gatos, carros se tornam vacas e assim por diante.
Ben Zhao, professor da Universidade de Chicago, que liderou a equipe que criou o Nightshade, diz que a esperança é que a ferramenta ajude diminuir o poder das empresa de IA sobre a arte e devolver esse poder aos artistas.
A equipe de Zhao também desenvolveu o Glaze, uma ferramenta que permite que os artistas “mascararem” seu estilo pessoal de desenho para evitar que ele seja imitado por inteligências artificiais. Glaze funciona de maneira semelhante ao Nightshade: alterando os pixels das imagens de maneiras sutis que são invisíveis ao olho humano, mas que atrapalham no aprendizado das máquinas, fazendo elas para interpretarem aa imagens como algo diferente do que elas realmente mostram.
A artista Kani (@kvniei) postou um exemplo de como o filtro Glaze funciona para ajudar a proteger os desenhos dos artistas.
As inteligências artificiais são especialistas em fazer conexões entre palavras, o que ajuda a espalhar o veneno. Nightshade infecta não apenas a palavra “cachorro”, mas todos os conceitos semelhantes, como “filhote”, “husky” e “lobo”. O “veneno” também funciona em imagens possivelmente relacionadas, por exemplo, se a IA usasse uma imagem envenenada para o comando “fantasia”, os comandos “dragão” e “castelo em O Senhor dos Anéis ” seriam igualmente afetados pelo veneno, já que são assuntos relacionados.
Trend polêmica
Recentemente inclusive viralizou uma trend de imagens geradas com Inteligência artificial copiando o estilo de arte dos estúdios Pixar, e parece que até o Governo Brasileiro entrou nessa onda problemática.
Até mesmo o Metrô de São Paulo fez uso de inteligência artificial para “surfar na onda”, ambas publicações geraram revolta em muitos internautas e artistas.
Motivo da indignação
Muitos não entendem o problema do uso de ferramentas de geração de imagens, tais ferramentas não aprenderam a desenhar da noite para o dia, elas foram treinadas para gerar imagens a partir do trabalho de artistas humanos, que dedicaram tempo e dinheiro para conseguirem criar artes dos mais diversos estilos, enquanto que as IA fazem uma espécie de cópia da arte dos artistas com as alterações necessário para condizer com os comandos pedidos pelo usuário, ou seja, criam uma arte plagiando seres humanos. Grandes empresas inclusive, como os exemplos mostrados acima, muitas vezes preferem pagar para usar Inteligências artificiais invés de contratar artistas de verdade.
Com informações de MIT