poker face song

O rosto da IA ​​se enquadra frequentemente atrás das costas

China News Weekly Reporter Zhou Qunfeng

Envie 2023.11.20 Total No. 1117 Revista "China News Weekly"

Recentemente, Meng, que atuou como vice -gerente geral em Guiyang, correu para o Banco de Mercantes da China Guiyang High -Tech Sub -Ranch, pedindo à equipe que fizesse 600.000 yuan em uma conta.

O especialista em serviços Mu Fangqin lembrou -se da "China News Weekly" que o cliente disse em pânico que o presidente de sua empresa precisava com urgência para transferir 600.000 yuan em fundos, mas não era conveniente ir diretamente ao dinheiro. pelo líder.

"O líder disse que o dinheiro havia sido remetido para mim, porque o sistema bancário estava atrasado, e seria atrasado para obter a conta. Você rapidamente me ajudou a se virar e o líder insistiu". na história do bate -papo, pedindo.

Mu Fangqin pegou o telefone celular e descobriu que a qualidade da imagem desse "voucher de remessa" era um pouco vago, e a localização do selo não atendeu aos regulamentos bancários, então ele o lembrou de ser cauteloso.Meng disse que, antes que o líder pedisse que ele transfira a transferência, ele também deliberadamente fez videochamadas com QQ através do QQ."Vídeo e sons são dignos dos líderes. Existe alguma falsa?"

Mu Fangqin guiou o Sr. Meng a ligar para a outra parte novamente.Devido a muita dúvida, Mu Fangqin lembrou que Meng não se apressou em transferir dinheiro.

Alguns dias depois, o banco recebeu uma carta de agradecimento pelo Sr. Meng.Aconteceu que ele foi verificado que a pessoa no final do vídeo não era um líder, mas os criminosos usavam a tecnologia de mudança de face da IA.Quando essa tecnologia está se tornando cada vez mais madura, não apenas é aplicada em dramas de cinema e televisão, mas também o número de casos de fraude de AI também aumentou acentuadamente.

Alta imitação "Liderança, parentes e amigos"

A armadilha de fraude que Meng encontrou foi quebrada por Mu Fangqin, mas mais pessoas ficaram presas.

Após uma vídeo, o proprietário individual Huang Xiaoliang (pseudônimo) viu a aparência da outra pessoa, ouviu a voz da outra parte e gradualmente eliminou dúvidas. BE 300.000 yuan voltou -se para a conta designada pela outra parte.

Recentemente, Zhang Zhenhua, o capitão do terceiro esquadrão da brigada Interpol do Bureau de Segurança Pública do Condado de Shanghe de Jinan, Shandong, disse à China News Weekly.

Um dia, no final de maio deste ano, quando Huang Xiaoliang navegou no pequeno aplicativo de vídeo em casa, ele recebeu uma mensagem privada.Depois de algumas palavras de saudações, a outra parte pediu a Huang Xiaoliang para adicionar seu número QQ. sinal ruim ".

Depois de ganhar a confiança de Huang Xiaoliang, o outro partido disse que, por ser um líder, não era conveniente usar suas informações de identidade para transferir uma quantia de 650.000 yuan para uma determinada conta e queria Huang Xiaoliang para ajudar a transferir dinheiro.Para expressar sua sinceridade, a outra parte também pediu sua conta bancária e rapidamente o enviou o "voucher de transferência" para ele.

Depois de ver o voucher, Huang Xiaoliang descobriu que sua conta e nome eram de fato ele, mas antes de chegar, ele não transferiu imediatamente a conta de "primo".Cerca de 20 minutos depois, o "primo" enviou uma mensagem dizendo que haveria um atraso na grande quantia de dinheiro, e ele estava ansioso para perguntar o dinheiro por lá, perguntando -lhe se ele poderia pagá -lo primeiro.

Huang Xiaoliang mais uma vez disputou a chamada para o "primo".Esta chamada eliminou completamente as preocupações de Huang Xiaoliang.Posteriormente, ele transferiu 300.000 yuan, e a outra parte pediu que ele continuasse a transferir os 350.000 restantes.

Huang Xiaoliang, que foi constantemente instado, tornou -se duvidoso novamente.Ele chamou seu primo para verificar se seu primo não havia mencionado os requisitos de transferência, e Huang Xiaoliang então chamou a polícia.

O que ficou surpreso com a polícia foi que o suspeito foi à loja de ouro para concluir o consumo dentro de 5 minutos depois de receber os 300.000 yuan transferidos por Huang Xiaoliang, e o tempo estava além da imaginação de pessoas comuns.

Zhang Zhenhua disse ao "China News Weekly" que, durante o processo de detecção, eles consultaram muitos técnicos que o conteúdo técnico dessa síntese de vídeo e chamadas de tempo real era alto, e o nível técnico de muitas empresas não pôde ser alcançado.

Com base no endereço IP do suspeito e Huang Xiaoliang, a polícia julgou que a gangue implementou fraude no norte de Mianmar e vendeu dinheiro e lavagem de dinheiro roubado doméstico. Realize fraude online.

Zhang Zhenhua disse que a polícia de Shanghe foi a Dongguan, Guangdong duas vezes para capturar 7 gangues criminosos."Eles têm fortes capacidades anti -investigação e mudam de hotéis regularmente. Esses hotéis não são padronizados e os requisitos para a estadia real não são altos. Atualmente, atingimos nossos objetivos por meios técnicos". revisão e acusação.

Nos últimos anos, os casos de uso da tecnologia de IA para fraude ocorreram em muitos lugares em todo o país.

Um caso emitido pelo Departamento de Segurança Pública do Bureau de Investigação de Crime de Rede de Rede de Segurança Pública declarou que, em 20 de abril deste ano, o "amigo" de um representante corporativo de uma empresa de tecnologia em Fuzhou de repente entrou em contato com ele através de vídeos de WeChat, alegando que seu amigo lance em um país estrangeiro e precisava fazer lances em um país estrangeiro.

O "amigo" pediu a Guo o número do cartão bancário, alegando que ele havia transferido o dinheiro para a conta de Guo e enviou a captura de tela de transferência do banco para ele.Com base na premissa de Trust Video Chat, o Guo não verificou se o dinheiro havia chegado. Banco da Mongólia).Mas o que ele não esperava foi que seu amigo respondesse a um ponto de interrogação para ele.Guo chamou seu amigo para ligar, e a outra parte disse que não havia tal coisa.A polícia descobriu que a outra parte estava fingindo ser um amigo no rosto de Ai -a tecnologia de face para realizar fraude contra Guo.O UnionPay da polícia de Pakisto parou de pagar mais de 3,3 milhões de yuans em fundos de fraude de telecomunicações. poker face song

Xia Wenzhong, advogado do escritório de advocacia de Zhejiang Jindao, disse que esses casos envolvendo a IA FACE -TO -face são geralmente falsificados e parentes e líderes relacionados das vítimas.Outros criminosos usaram a tecnologia de IA para registrar os vídeos de bate -papo nu da vítima ou fotos nuas forjadas, exigindo que as vítimas paguem a propriedade como uma não divulgação, suspeita de extorsão.

Xia Wenzhong disse ao "China News Weekly" que, em um caso, um agente de cinco anos mudou o rosto para mudar seu rosto em uma jovem com uma voz doce. Lucro e chantageia o dinheiro da vítima.A vítima transferiu 200.000 yuan para criminosos.

Quando os criminosos foram extorquidos ainda mais, a vítima não tinha poder e teve que chamar a polícia.Após a investigação da agência de manuseio de casos, as gangues criminosas no norte de Mianmar na época foram trancadas.Após persuasão e medidas relacionadas, a maioria dos criminosos retornou à China para tomar a iniciativa de se render.

Li Min, um policial da equipe anti -Fraud da filial de Jinshui do Departamento de Segurança Pública de Zhengzhou, disse à China News Weekly que, na realidade, alguns criminosos não eram inteligentes e, mesmo que não precisassem usar a IA para mudar seus rostos, eles poderiam trapacear dinheiro.

Em uma pregação anti -fraud, um professor disse a ela que seu pai era um agricultor de 70 anos. do governo do condado local, é verdade.Logo após acrescentar, seu pai foi enganado pelo "magistrado do condado falso" por dezenas de milhares de yuan.

Li Min também encontrou um caso.Depois que a vítima recebeu o "voucher de transferência" enviado por "Boss" através do QQ, ele acreditava que era verdadeiro e transferiu 200.000 para a conta bancária designada pelos criminosos.

Vale a pena notar que um grande número de casos de fraude elétrica, como a AI Face Change, mostra que os principais quadros se tornaram um alvo popular de ser representado.

O que impressionou a polícia impressionada com os casos mencionados acima detectados pela polícia de Shanghe é que, nesses computadores ilegais, além do simulador especializado em "vouchers de transferência", algumas unidades de trabalho de alguns líderes, posições e outras informações também foram definidas acima.

Li Min disse ao "China News Weekly" que a rotina de representação da fraude de liderança é geralmente que os golpistas obtêm fotos de líderes de agências partidárias e governamentais, empresas e instituições através de vários canais ou usam os nomes reais dos líderes como nomes do WeChat, fingindo que fingindo Para ser liderado QQ ou liderança.Depois disso, os golpistas levaram a distância para se preocupar com o trabalho, a vida e o status de operação de negócios e obtiveram a confiança das vítimas e, em seguida, com base na reunião e participando das atividades como o termo. Transferir fundos ou cruzar a ponte.

"A vítima ficou envergonhada de verificar com o líder por causa de sua reverência ou por causa da ajuda do líder, ele seria enganado".

Ela disse que em tais golpes, muitos criminosos geralmente começam a enviar mensagens de texto para reivindicar ser os líderes ou parentes e amigos que enganam o objeto."Isso também lembra a maioria dos internautas de receber essas mensagens de texto de alguns números estranhos e verificar a identidade da outra parte no tempo".

Cadeia da indústria negra sob interesse de interesse

A tecnologia de mudança de face da AI não é nova.Zuo Xiaodong, professor da Escola de Relações Públicas da Universidade de Ciência e Tecnologia da China e professor da Escola de Relações Públicas da Universidade de Ciência e Tecnologia, disse à China News Weekly que essa tecnologia foi rastreada até seis anos atrás.Em dezembro de 2017, um usuário chamado "DeepFakes" postou um vídeo falso no site do Reddit.Devido a esse nome de usuário "DeepFakes", a "profunda tecnologia falsa" também recebeu forte atenção da sociedade.

De fato, o nome mais preciso dessa tecnologia é a "síntese profunda", que tem muitos usos positivos.Por exemplo, "o pediatra do Grande", etc., todos usavam a tecnologia de mudança de face AI durante o processamento posterior; para pescar seu rosto agora.

À medida que tecnologias como "mudança de face" e "mudança de som" estão se tornando cada vez mais realistas, alguns criminosos começaram a usá -la para fraude.Xia Wenzhong disse que a IA agora formou uma cadeia da indústria negra.Os criminosos upstream geram fotos através da tecnologia de IA, integram essas imagens, as colocam em atlas e as vendem para compradores a jusante através de um conjunto completo de vendas.

Em abril deste ano, o Red "Caro Lai" líquido, que tinha quase 1,5 milhão de fãs do Weibo, postou um post dizendo que, depois de ser alterado com a IA, ela caiu no dilema dos rumores amarelos.Seu rosto foi roubado em alguns vídeos obscenos.Algumas pessoas registraram suas contas em plataformas sociais no exterior e registraram suas contas, carregando seu conteúdo diário e, quando os fãs atingirem um determinado número, começarão a vender esses vídeos pornográficos de seu rosto.

O Departamento de Segurança Pública de Zhejiang Wenzhou City divulgou um caso dizendo que em 2021, a delegacia de Gongyuqiao recebeu um alarme. .

Zuo Xiaodong disse ao "China News Weekly" que a razão pela qual o rosto da IA ​​muda a cadeia da indústria negra está intimamente relacionado aos altos retornos usados ​​para fraude."Beijing News" relatou que os interesses consideráveis ​​impulsionaram o desenvolvimento do mercado de AI Gray. minuto.

Com o desenvolvimento da Internet, a tecnologia de mudança de face da IA ​​também é vendida online.O repórter "China News Weekly" consultou vários comerciantes que fizeram vídeos de mudança de IA enfrentando várias plataformas em várias plataformas.Um comerciante disse que, enquanto uma foto for fornecida, leva cerca de 30 minutos para fazer um vídeo único, a taxa é de 100 yuan.Um vendedor de outra plataforma disse que vendeu um software de mudança de rosto com um preço de 200 yuan e um período de uso.Para provar o efeito do software, ele também enviou um pequeno vídeo após a mudança de rosto.

A "entrevista de foco" da CCTV informou que, na operação especial da "rede rede 2021", realizada pelo Ministério da Segurança Pública, o destacamento de segurança líquida do Departamento de Segurança Pública de Hefei criou em conjunto a filial de Baohe para destruir uma gangue criminal. Fornece suporte técnico para cartões de celular registrados.Existem cerca de 10G de informações sobre dados no computador do suspeito criminal.

Nos últimos anos, também foi atualizada a tecnologia de mudança de face da IA ​​e se tornou cada vez mais realista. poker face song

A Shenzhen Anluo Technology Co., Ltd. é o primeiro lote de empresas de qualificação para segurança de rede nacionais e unidades piloto. Fraude de rede.

Xiao Jianwei, vice -presidente da tecnologia da empresa, disse à China News Weekly que agora pode ser usada para usar um computador de alto perfil e algumas fotos para passar um ou dois minutos para sintetizar um vídeo de mudança de face de 10 segundos.Investindo mais recursos de potência de computação em placas gráficas, a tecnologia de IA já pode fazer chamadas de vídeo reais de face -para -face, com um grau de similaridade superior a 80%.

Xiao Jianwei disse que o algoritmo de "geração de uma rede de confronto" usado pela IA para mudança de face está aberto e há um código de algoritmo de código aberto na rede.Geração de vídeo de IA desenvolvida por empresas de software regularesO software marcará a "síntese da IA" no vídeo gerado e não será vendido na rede escura e é facilmente usada por criminosos.

"De uma perspectiva legal, a AI enfrenta a tecnologia que causará problemas como o uso ilegal de retratos de outras pessoas e prejudicar a reputação e a privacidade pessoais. As consequências de algumas novas tecnologias eram imprevisíveis", disse Xia Wenzhong.

Como curar?

Já em novembro de 2019, o National Network Information Office, o Ministério da Cultura e Turismo e a Administração Estadual de Rádio e Televisão emitiram em conjunto os "regulamentos sobre o gerenciamento do serviço de informações de áudio e vídeo de rede", que afirmava claramente que o uso de novas tecnologias e novas aplicações baseadas em aprendizado profundo, realidade virtual e outras aplicações e produção de produção se você publicar ou disseminar informações de áudio e vídeo não reais, elas devem ser identificadas de maneira significativa e não devem ser usadas para fazer, publicar e espalhar informações falsas.

Em novembro de 2022, os "regulamentos de gerenciamento sintético de profundidade do Ministério da Indústria e Tecnologia da Informação e o Ministério da Segurança Pública emitidos pelo Ministério da Indústria e Tecnologia da Informação e o Ministério da Segurança Pública declararam claramente que não é permitido Usar serviços sintéticos profundos para se envolver em atividades, como violação dos direitos e interesses legítimos de outros.

Em julho de 2023, sete departamentos como o National Network Information Office e outros sete departamentos divulgaram em conjunto as "medidas intermediárias para o gerenciamento de serviços de inteligência artificial de Genesis", que estipula que fornecem e usando serviços de inteligência artificial gerados devem respeitar os direitos e interesses legítimos de outros.

Em resposta às questões de violação e segurança envolvidas na IA, nos últimos anos, meu país foi continuamente melhorado nas políticas relevantes, mas esse tipo de ato criminoso ainda é comum.

Em 10 de agosto deste ano, na conferência de imprensa realizada pelo Ministério da Segurança Pública, Li Tong, vice -diretor do Departamento de Segurança Cibernética do Ministério da Segurança Pública, apresentou que, em resposta ao problema da "AI Face Change" Isso fez com que as massas fossem fraudulentas, os órgãos de segurança pública lançaram uma batalha especial para detectar casos relacionados para detectar casos relacionados."Os materiais usados ​​para implementar materiais de mudança de face de IA são principalmente fotos, especialmente fotos de cartão de identificação. Ao mesmo tempo, combinadas com nomes de pessoal e números de identificação para quebrar o sistema de verificação de reconhecimento de rosto.

Zuo Xiaodong disse à China News Weekly que, nos últimos dois anos, o estado formulou muitos documentos de política para regular o desenvolvimento da nova geração de tecnologia de IA.No entanto, para o uso da tecnologia para se envolver em crimes ilegais, é necessário continuar a aumentar seus ataques.Sobre esse assunto, a inovação tecnológica também deve ser fortalecida, especialmente para melhorar a capacidade de detectar a detecção de áudio e vídeo.

Xiao Jianwei disse que, diante desses riscos, os departamentos relevantes devem melhorar ainda mais as leis e regulamentos e punir severamente a violação e o comportamento criminal do uso ilegal de tecnologia de mudança de IA; uso de uso ilegal; Os órgãos de segurança pública efetivamente continuam a continuar refinados fraudes na rede de telecomunicações ".

Xia Wenzhong disse à China News Weekly que a dificuldade de investigação e punição desse tipo de crime se reflete em dois aspectos: por um lado, a identidade dos criminosos é difícil de ser confirmada, e muitos criminosos estão no exterior e são difíceis de realizar Operações de prisão;

Wang Jie, vice -diretor do Instituto de Estado de Direito da Academia de Ciências Sociais de Pequim, há muito se envolve em pesquisa anti -elétrica.Em uma entrevista à mídia, ele apontou que, quando a tecnologia de IA é usada para fraude elétrica, e então enfrentará dificuldade.Ele investigou e desenvolveu que, depois de muitas policiais anti -fraudes gastando muito tempo e dinheiro, muitas vezes descobriu que a fonte de crime estava no exterior.Nesse caso, nem todas as vítimas podem pagar tempo, dinheiro e energia suficientes para investigar a responsabilidade do infrator. poker face song

"A questão principal é a proteção de informações pessoais".Portanto, ao investigar o caso, os órgãos de segurança pública devem prestar mais atenção aos canais de vazamento de informações e governar da fonte.O governo deve fortalecer a supervisão da proteção de informações pessoais, e todos os aspectos dos desenvolvedores e operadores de aplicativos também devem trabalhar juntos para gerenciar o armazenamento, a leitura, o uso e a remoção das informações da face de acordo com a lei para promover a conformidade com a proteção de informações pessoais e Auto -disciplina da conformidade com a proteção de informações pessoais da Enterprise e a auto -disciplina

Xia Wenzhong também enfatizou particularmente que a aplicação de várias plataformas de rede deve ser responsável pela aplicação da mudança de face da IA. A tecnologia da IA ​​para evitar a tecnologia de IA utilizada por criminosos.

"China News Weekly" 2023 Edição 43

Isenção de responsabilidade: O Journal usa o manuscrito de "China News Weekly" por escrito