A inteligência artificial está aprendendo processamento de informações pessoais ou processamento estatístico? [알아야 보이는 법(法)]

É polêmico porque o Ministério da Justiça confiou as 170 milhões de imagens faciais obtidas durante o controle de imigração a um desenvolvedor de inteligência artificial (IA). Um rosto é uma informação pessoal representativa como informação que pode identificar um indivíduo por si só. Por exemplo, uma foto de raio-X ou tomografia computadorizada (TC) pode não ser uma informação pessoal porque é difícil identificar a qual paciente pertence, exceto a instituição médica onde o crachá do paciente foi removido. ele exige Há duas questões na Lei de Proteção de Informações Pessoais neste caso.

Em primeiro lugar, a questão é se o Ministério da Justiça forneceu informações pessoais a um terceiro denominado desenvolvedor de IA ou confiou o processamento de informações pessoais. O primeiro, ‘fornecido a um terceiro’, significa que o Ministério da Justiça e o desenvolvedor de IA têm direitos e responsabilidades independentes em relação ao processamento de informações pessoais como uma chamada relação de ‘afiliação’. Neste caso, o requisito legal é o ‘consentimento’ do titular dos dados. O último ‘processamento de remessa’ significa que o Ministério da Justiça concedeu uma espécie de ‘subcontrato’ a um desenvolvedor de IA, o que significa que o Ministério da Justiça assume todas as responsabilidades externas e a empresa processa informações pessoais apenas conforme instruído pelo Ministério da Justiça. Não há necessidade de ‘divulgar’ o conteúdo da obra confiada e do administrador. O Ministério da Justiça esclareceu que “é legal mesmo sem consentimento porque é uma remessa em processamento”, mas o Comitê de Proteção de Informações Pessoais está investigando essa parte. [https://www.hani.co.kr/arti/economy/it/1016902.html  참고]

Em segundo lugar, há uma dúvida se o desenvolvimento de um sistema automatizado de reconhecimento facial por meio do aprendizado de IA se enquadra no uso de informações pessoais para outros fins que não os pretendidos. As ONGs afirmam que o Ministério da Justiça tem autoridade para processar informações biométricas com base na Lei de Controle de Imigração, mas não tem autoridade para usar os dados para o propósito de desenvolver um sistema de identificação de IA em que as empresas privadas intervenham. [https://www.peoplepower21.org/PublicLaw/1835866  참고]

Enquanto isso, o Ministério da Justiça argumenta que os resultados de aprendizagem da IA ​​não contêm informações pessoais, portanto não estão sujeitos à Lei de Proteção de Informações Pessoais. Vamos dar uma olhada mais de perto nesta parte.

O que o Ministério da Justiça fez uma empresa privada desenvolver é uma IA que responde à pergunta: ‘Este rosto (atualmente capturado pela câmera) e aquele rosto (armazenado no banco de dados existente) pertencem à mesma pessoa? 170 milhões de imagens faciais fornecidas como dados de treinamento são agrupadas com fotos da mesma pessoa. Cada foto é convertida em um valor de coordenada (vetor) para cada ponto de característica facial, e até mesmo uma foto da mesma pessoa tem diferentes valores de coordenada dependendo do ângulo de disparo ou expressão. O AI observa as semelhanças entre as fotos da mesma pessoa e as diferenças entre as fotos de outras pessoas e calcula o valor da probabilidade de ‘Se o valor do sinal esquerdo entrar assim, qual é a probabilidade de ser a mesma pessoa e se vem dessa forma, qual a probabilidade de ser uma pessoa diferente ‘? Tome nota disso. Por meio desse processo, uma enorme matriz na qual a probabilidade de ser a mesma pessoa é registrada para cada padrão de valor de coordenada de ponto de característica facial é criada e, quanto mais os dados de aprendizagem são, mais preciso esse valor de probabilidade se torna. Essa sequência de valores de probabilidade é o resultado do aprendizado de IA. Posteriormente, na fase de operação real da IA, duas fotos aleatórias (novas fotos que não foram incluídas nos dados de treinamento) são inseridas na matriz acima para encontrar a probabilidade de que a pessoa nas duas fotos seja a mesma, e a a probabilidade é constante. Se for ultrapassado, será julgado como a mesma pessoa.

O importante é que os valores das coordenadas dos pontos de características faciais, que são dados de treinamento, não permaneçam na matriz em que a sequência de valores de probabilidade é registrada. Se o valor original permanecer, as informações pessoais foram copiadas durante o processo de aprendizagem de IA. No entanto, implementar IA não é tão simples. O algoritmo de aprendizagem AI é implementado dividindo os valores originais por padrões detalhados observados, fragmentando-os em partes complexas e, em seguida, calculando a sequência de valores de probabilidade. Desta forma, o valor original não permanece no resultado da aprendizagem, e parece que é praticamente impossível calcular inversamente o valor original. O Ministério da Justiça precisa esclarecer esse ponto com mais clareza.

Resumindo, o aprendizado de IA é uma espécie de ‘processamento estatístico’. Por exemplo, as informações de renda individual são, obviamente, informações pessoais, mas se a média ou o desvio padrão for calculado usando essas informações, as características individuais são removidas e o valor estatístico não é vinculado a um indivíduo específico. Consequentemente, o ‘consentimento para fins de processamento estatístico’ não é obtido separadamente do titular dos dados. Da mesma forma, o aprendizado de IA não exigirá consentimento separado, pois não deixa as características dos dados individuais no processo de cálculo dos valores de probabilidade pela observação de padrões em big data. Além disso, assim como valores estatísticos como ‘renda nacional’, que é uma média das informações de renda individual, podem ser fornecidos a terceiros sem o consentimento do titular da informação, o Ministério da Justiça também poderá compartilhar a probabilidade sequência de valores e modelo de IA criado como resultado de aprendizagem com empresas privadas. Dado que os dados de aprendizagem são informações pessoais, não podem ser retirados do curso, mas o know-how obtido através do processamento estatístico dos dados deve ser utilizado separadamente.

Além disso, a ‘aprendizagem’ de IA como processamento estatístico e ‘processamento de informações pessoais’ durante a operação real do serviço deve ser distinguida. Pode haver processamento estatístico até que o Ministério da Justiça descubra 170 milhões de imagens faciais e crie um modelo de IA. Por outro lado, se você registrar uma foto de passaporte de um cidadão coreano real no modelo de IA desenvolvido e usá-la para imigração e imigração, este é o processamento de informações pessoais, portanto, é estritamente controlado pela Lei de Proteção de Informações Pessoais.

Por outro lado, se apenas os dados de aprendizagem e o modelo de reconhecimento facial AI removido forem exportados para um país estrangeiro e usados ​​para reconhecimento facial em um aeroporto estrangeiro, este é um processamento separado de informações pessoais e está sujeito às leis do país .

Desta forma, uma discussão acadêmica e política mais aprofundada é necessária sobre o fato de que as regras legais podem ser diferentes ao dividir a ‘operação’ de aprendizagem e serviços de IA. Para simplificar, é uma questão de regular a tecnologia desde o estágio de desenvolvimento ou de controlá-la legalmente apenas no estágio de uso da tecnologia.

Seungjae Jeon, advogado da Barun Law Firm (autor de ‘Hacking Judgment Dissected by a Hacker-Ex Lawyer’) [email protected]

[ⓒ 세계일보 & Segye.com, 무단전재 및 재배포 금지]


Source: 경제 by www.segye.com.

*The article has been translated based on the content of 경제 by www.segye.com. If there is any problem regarding the content, copyright, please leave a report below the article. We will try to process as quickly as possible to protect the rights of the author. Thank you very much!

*We just want readers to access information more quickly and easily with other multilingual content, instead of information only available in a certain language.

*We always respect the copyright of the content of the author and always include the original link of the source article.If the author disagrees, just leave the report below the article, the article will be edited or deleted at the request of the author. Thanks very much! Best regards!