Este mês, Chatgpt revelou um novo gerador de imagens Como parte de seu modelo 4O, muito melhor em gerar texto dentro de imagens.
As pessoas já estão usando para gerar recibos falsos de restaurantes, potencialmente adicionando outra ferramenta ao Kit de ferramentas já extensa de AI DeepFakes usada por fraudadores.
Pôster prolífico de mídia social e vc deedy Das Postado em x Uma foto de um recibo falso para uma (real) Steakhouse de São Francisco, que ele diz ter sido criada com 4o.
Outros foram capazes de replicar resultados semelhantes, incluindo Um com alimentos ou manchas de bebidas para torná -lo ainda mais autêntico:
O exemplo mais de aparência real encontrado em TechCrunch foi na verdade da França, onde um usuário do LinkedIn Postado Um recibo gerado pela IA em ruínas para uma cadeia de restaurantes local:
O TechCrunch testou 4o e também foi capaz de gerar um recibo falso para um Applebee’s em São Francisco:
Mas nossa tentativa teve algumas ofertas mortas que foram falsificadas. Por um lado, o total usa uma vírgula em vez de um período. Por outro lado, a matemática não aumenta. Llms ainda luta para fazer matemática básicaentão isso não é particularmente surpreendente.
Mas não seria difícil para um fraudador corrigir rapidamente alguns dos números com o software de edição de fotos ou, possivelmente, instruções mais precisas.
É claro que facilitar muito a geração de recibos falsos apresenta enormes oportunidades de fraude. Não seria difícil imaginar esse tipo de tecnologia sendo usada por maus atores para obter ‘reembolsado’ por despesas totalmente falsas.
O porta -voz do Openai, Taya Christianson, disse ao TechCrunch que todas as suas imagens incluem metadados indicando que foram feitos pelo ChatGPT. Christianson acrescentou que o Openai “age” quando os usuários violam suas políticas de uso e que está “sempre aprendendo” com o uso e o feedback do mundo real.
O TechCrunch então perguntou por que o ChatGPT permite que as pessoas gerem recibos falsos em primeiro lugar e se isso é linha com o OpenAI’s políticas de uso (que proibem fraude.)
Christianson respondeu que o “objetivo do Openai é dar aos usuários o máximo possível de liberdade criativa” e que os recibos falsos de IA podem ser usados em situações que não são de fraude, como “ensinar pessoas sobre alfabetização financeira”, além de criar anúncios de arte e produtos originais.
