"인공지능, 법에게 미래를 묻다(책))"의 두 판 사이의 차이
라이언의 꿀팁백과
(→주요내용) |
(→주요내용) |
||
| (같은 사용자의 중간 판 9개는 보이지 않습니다) | |||
| 66번째 줄: | 66번째 줄: | ||
==주요내용== | ==주요내용== | ||
* 2018년 일본은 "저작물에 표현된 사상이나 감정의 향유를 수반하지 않는 이용"을 명시적인 저작권 제한 사유로 추가하는 개정을 개정을 단행했다. 개정된 법에 따르면, 저작권자의 이익을 부당하게 해치지 않는 한, 해당 저작물에 표현된 사상 또는 감정을 누리거나 타인에게 누리게 하는 것을 목적으로 하지 않는 비표현이용(non-expressive use)은 저작권 침해에 해당하지 않는다. <br /><br />(비표현이용의 예 : 기술적 과정에서 일어나는 복제 - 인공지능 학습 데이터 수집 및 이용) <br /> <br />개정 저작권법은 인공지능이 저작물을 학습하기 위해 데이터 사본을 만드는 행위를 적법하다고 본다. 인공지능의 학습은 인간이 감각기관을 통해 사물을 인식하는 것과는 다르며, 그렇기에 '저작물의 사상이나 감정을 누리는'일에 해당하지 않는다고 해석할 수 있기 때문이다. <br /> | * 2018년 일본은 "저작물에 표현된 사상이나 감정의 향유를 수반하지 않는 이용"을 명시적인 저작권 제한 사유로 추가하는 개정을 개정을 단행했다. 개정된 법에 따르면, 저작권자의 이익을 부당하게 해치지 않는 한, 해당 저작물에 표현된 사상 또는 감정을 누리거나 타인에게 누리게 하는 것을 목적으로 하지 않는 비표현이용(non-expressive use)은 저작권 침해에 해당하지 않는다. <br /><br />(비표현이용의 예 : 기술적 과정에서 일어나는 복제 - 인공지능 학습 데이터 수집 및 이용) <br /> <br />개정 저작권법은 인공지능이 저작물을 학습하기 위해 데이터 사본을 만드는 행위를 적법하다고 본다. 인공지능의 학습은 인간이 감각기관을 통해 사물을 인식하는 것과는 다르며, 그렇기에 '저작물의 사상이나 감정을 누리는'일에 해당하지 않는다고 해석할 수 있기 때문이다. <br /><br /> | ||
* 우리나라의 공공 기관 가운데에는 개인정보 보호라는 명분 아래 공공데이터의 공개를 제한하는 기관이 많다. 헌법에 담긴 민주주의 가치를 수호해야 할 임무가 있는 기관이면서 민주주의의 핵심이라 할 수 있는 열린 정부의 정신을 무시하는 국가 기관이 바로 우리 사법부이다. 헌법에 재판 공개의 원칙이 명시되어 있음에도, 우리 법원은 판결문을 극히 일부만 인터넷에 공개하고 있다. 2020년 기준으로 종합법률정보(https://glaw.scourt.go.kr<nowiki/>)라는 법원 공식 사이트를 통해 공개되는 판결문은 전체 대법원 판결의 3.2퍼센트, 각급 법원 판결의 0.003퍼센트에 불과하다. <br /> | * 우리나라의 공공 기관 가운데에는 개인정보 보호라는 명분 아래 공공데이터의 공개를 제한하는 기관이 많다. 헌법에 담긴 민주주의 가치를 수호해야 할 임무가 있는 기관이면서 민주주의의 핵심이라 할 수 있는 열린 정부의 정신을 무시하는 국가 기관이 바로 우리 사법부이다. 헌법에 재판 공개의 원칙이 명시되어 있음에도, 우리 법원은 판결문을 극히 일부만 인터넷에 공개하고 있다. 2020년 기준으로 종합법률정보(https://glaw.scourt.go.kr<nowiki/>)라는 법원 공식 사이트를 통해 공개되는 판결문은 전체 대법원 판결의 3.2퍼센트, 각급 법원 판결의 0.003퍼센트에 불과하다. <br /><br /> | ||
*2020년 베토벤 탄생 250주년을 기념해 그가 생전에 내놓지 못한 10번 교향곡을 완성하려는 프로젝트가 진행되고 있다. '베토벤-AI'는 베토벤이 남긴 모든 곡을 학습하고 그의 작곡 스타일을 파악해 10번 교향곡을 완성하도록 설계되었다. 로봇이 완성한 10번 교향곡은 베토벤 축제가 열리는 본에서 발표될 예정이었으나 코로나19 때문인지 정식 발표는 늦어지고 있다. <br /><br />([https://www.magenta-musik-360.de/beethoven-10-sinfonie 베토벤 교향곡 10번 Beethoven X – | *2020년 베토벤 탄생 250주년을 기념해 그가 생전에 내놓지 못한 10번 교향곡을 완성하려는 프로젝트가 진행되고 있다. '베토벤-AI'는 베토벤이 남긴 모든 곡을 학습하고 그의 작곡 스타일을 파악해 10번 교향곡을 완성하도록 설계되었다. 로봇이 완성한 10번 교향곡은 베토벤 축제가 열리는 본에서 발표될 예정이었으나 코로나19 때문인지 정식 발표는 늦어지고 있다. <br /><br />([https://www.magenta-musik-360.de/beethoven-10-sinfonie 베토벤 교향곡 10번 Beethoven X] [https://www.magenta-musik-360.de/beethoven-10-sinfonie –]<nowiki/> [https://www.magenta-musik-360.de/beethoven-10-sinfonie T]<nowiki/>[https://www.magenta-musik-360.de/beethoven-10-sinfonie he]<nowiki/><nowiki/><nowiki/> [https://www.magenta-musik-360.de/beethoven-10-sinfonie A]<nowiki/>[https://www.magenta-musik-360.de/beethoven-10-sinfonie I] <nowiki/>[https://www.magenta-musik-360.de/beethoven-10-sinfonie Pr][https://www.magenta-musik-360.de/beethoven-10-sinfonie oj][https://www.magenta-musik-360.de/beethoven-10-sinfonie ect] [https://www.magenta-musik-360.de/beethoven-10-sinfonie 듣기]) <br /> <br /> | ||
*아이가 어른의 언행을 보고 배우는 것처럼, 로봇 역시 우리의 생각과 행동을 그대로 배워서 반복한다. 로봇은 의식적으로든 무의식적으로든 그동안 우리가 직시하지 않으려 했던 우리 안의 편견과 차별을 거울처럼 명료하게 비춰준다. <br /><br /> | *'''아이가 어른의 언행을 보고 배우는 것처럼, 로봇 역시 우리의 생각과 행동을 그대로 배워서 반복한다.''' 로봇은 의식적으로든 무의식적으로든 그동안 우리가 직시하지 않으려 했던 우리 안의 편견과 차별을 거울처럼 명료하게 비춰준다. <br /><br /> | ||
* | *미래 인공지능 로봇을 이용하려는 기업은 소비자를 보호<nowiki/>하기<nowiki/><nowiki/> 위<nowiki/><nowiki/><nowiki/>해,<nowiki/><nowiki/> 정<nowiki/>부는<nowiki/><nowiki/> 민<nowiki/>주주<nowiki/>의 <nowiki/>질서<nowiki/><nowiki/><nowiki/>를 <nowiki/>유지<nowiki/>하기<nowiki/> 위해 '''알고리즘의''' <nowiki/>'''투명'''<nowiki/>'''성을 확보해야 한다'''는 핵심 과제를 <nowiki/>안았<nowiki/><nowiki/>다.<nowiki/><nowiki/><nowiki/> 정<nowiki/><nowiki/>부의<nowiki/><nowiki/><nowiki/> 투<nowiki/><nowiki/><nowiki/>명성<nowiki/><nowiki/>이 <nowiki/>공정<nowiki/><nowiki/><nowiki/>한 사회<nowiki/>를 만드는 필수<nowiki/> 조<nowiki/>건인 것<nowiki/>처럼 인공지능의 운영이 투명해야만 사회의 신뢰를 얻을 수 있다. 브랜다이스(Louis Brandeis) 대법관이 말한 것처럼 '''"햇빛은 최고의 살균제"'''이다. 정부가 무엇을 하고 왜 그것을 하는지가 유리 어항처럼 투명(fishbo<nowiki/>wl<nowiki/> tra<nowiki/>nsparency)해야, 국민이 감시와 선택을 통해 진정한 민주주의를 실현할 수 있다. 정부의 투명성은 공직자들이 사리사욕을 멀리하고 정직하게 업무를 수행하도록 유인하기도 한다. <br /><br /> | ||
*유럽연합(EU)이 2018년에 제정한 데이터 보호 규칙(General Da<nowiki/>ta<nowiki/><nowiki/> P<nowiki/>rotection Regulation, GDPR)은 '''투명성의 원칙'''을 규정하면서 인<nowiki/>공지<nowiki/><nowiki/>능 <nowiki/>알고<nowiki/>리즘<nowiki/>의 개인정보 분석 과정에 대한 '설명 요구권'을 포함한다. 이에 따르면 로봇이 내리는 자동화된 결정과 판단으로 인해 영향을 받는 사람은 누구나 관련된 의미 있는 정보를 요구할 수 있다. 이 권리를 보장받기 위해 개인정보를 <nowiki/>처리<nowiki/><nowiki/>하는<nowiki/> 기<nowiki/>업이<nowiki/>나 정부는 소비자 또는 국<nowiki/>민에<nowiki/>게 의견<nowiki/>을 제출하거나 결정을 수정할 기회를 마련해야 한다. <br /><br /> | *유럽연합(EU)이 2018년에 제정한 데이터 보호 규칙(General Da<nowiki/>ta<nowiki/><nowiki/> P<nowiki/>rotection Regulation, GDPR)은 '''투명성의 원칙'''을 규정하면서 인<nowiki/>공지<nowiki/><nowiki/>능 <nowiki/>알고<nowiki/>리즘<nowiki/>의 개인정보 분석 과정에 대한 '설명 요구권'을 포함한다. 이에 따르면 로봇이 내리는 자동화된 결정과 판단으로 인해 영향을 받는 사람은 누구나 관련된 의미 있는 정보를 요구할 수 있다. 이 권리를 보장받기 위해 개인정보를 <nowiki/>처리<nowiki/><nowiki/>하는<nowiki/> 기<nowiki/>업이<nowiki/>나 정부는 소비자 또는 국<nowiki/>민에<nowiki/>게 의견<nowiki/>을 제출하거나 결정을 수정할 기회를 마련해야 한다. <br /><br /> | ||
*넓게 보면 인공지능에 의한 범죄 예측과 경찰견에 의한 마약 적발은 그 판단 과정을 일반 사람이 알기 어렵다는 점에서 비슷하다. 인공지능이 어떤 데이터에 근거해 어떤 논리로 결론에 도달하는지를 사람이 이해하기 어려운 것처럼, 마약을 적발하는 개의 정보 처리 과정 역시 블랙박스처럼 깜깜하다. 그러나 우리는 마약 탐지견의 머릿속을 들여다보지 못해도 결과는 신뢰할 수 있다. 이들이 공인된 훈련을 성공적으로 마쳤기 때문이<nowiki/>다.<nowiki/><nowiki/> <nowiki/><br /><nowiki/> | *넓게 보면 인공지능에 의한 범죄 예측과 경찰견에 의한 마약 적발은 그 판단 과정을 일반 사람이 알기 어렵다는 점에서 비슷하다. 인공지능이 어떤 데이터에 근거해 어떤 논리로 결론에 도달하는지를 사람이 이해하기 어려운 것처럼, 마약을 적발하는 개의 정보 처리 과정 역시 블랙박스처럼 깜깜하다. 그러나 우리는 마약 탐지견의 머릿속을 들여다보지 못해도 결과는 신뢰할 수 있다. 이들이 공인된 훈련을 성공적으로 마쳤기 때문이<nowiki/>다.<nowiki/><nowiki/> <nowiki/><br /><nowiki/> <br />이처럼 일반 사람들이 당장은 인공지능의 결정 과정을 이해하기 어렵다면, 그 대안으로 '''인공지능에게 공인된 훈련 과정을 마련하는 방법'''이 있다. 마치 제약 회사가 약을 만들어 판매하려면 미리 식품의약품안전처(식약처)에 안전성과 유효성에 관한 임상 실험 자료를 제출하고 심사를 받는 것과 같은 식이다. 실제로 현재 '''지능형 로봇 의료기기는 식약처 심사를 받아 출시된다.''' <br /> <br />인공지능은 제약 기술과 마찬기지로 국민<nowiki/>의 <nowiki/><nowiki/><nowiki/>생명<nowiki/><nowiki/><nowiki/>과 <nowiki/><nowiki/>자유<nowiki/>, 그리고 재산에 엄청난 영향을 미칠 것이다. 새로운 기술이 낳을 끔찍한 사태를 우려하는 데 그치지 말고 예방학 위해 로봇이 제작되고 판매되기 전에 평가나 심사를 받을 수 있는 공신력 있는 전문 기구나 공공 기관을 마련해야 하지 않을까. <br /> | ||
< | |||
*얼굴 인식의 오류와 편견이 기업이나 정부의 감시 욕구와 만남녀 최악의 '''빅 브라더(big brother)'''를 탄생시킬 수 있다. 가까운 예가 '''중국의 '사회신용체계''''이다. <br /><br /> 중국 정부는 '''톈왕(하늘의 그물)'''이라 불리는 범죄 용의자 추적 시스템을 개발했다. '''톈왕은 화웨이, 텐센트 등의 기업이 보유한 데이터와 실시간으로 돌아가는 2억 대의 감시카메라, 얼굴 인식 인공지능이 결합한 거의 완벽한 감'''<nowiki/>'''시''' <nowiki/><nowiki/><nowiki/>'''체계'''<nowiki/><nowiki/><nowiki/><nowiki/>이다<nowiki/><nowiki/><nowiki/><nowiki/>. <nowiki/><nowiki/><nowiki/>물론<nowiki/><nowiki/><nowiki/> 이<nowiki/>전에<nowiki/>도 민간 기업이 데이터를 다른 곳에서 활용하는 일은 있어 왔다. 영국의 액시엄(Acxiom)은 소비자 9억 명을 소비 행태와 신용도에 따라 여러<nowiki/> 유<nowiki/><nowiki/><nowiki/><nowiki/>형<nowiki/>과<nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/> <nowiki/><nowiki/><nowiki/><nowiki/>등<nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/>급<nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/>으<nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/>로<nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/> <nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/>분<nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/>류<nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/>했<nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/>는<nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/>데<nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/><nowiki/>,<nowiki/><nowiki/><nowiki/><nowiki/> <nowiki/><nowiki/><nowiki/><nowiki/><nowiki/>이<nowiki/><nowiki/> <nowiki/><nowiki/>정보<nowiki/>를 다른 기업에 제공하기도 했다. 문제는 민간 기업이 수집하고 분석한 데이터를 정부가 영장 없이 활용한다는 사실이다. | |||
<gallery> | |||
파일:20220124-인공지능, 법에게 미래를 묻다-00.jpg | |||
파일:20220124-인공지능, 법에게 미래를 묻다-01.jpg | |||
파일:20220124-인공지능, 법에게 미래를 묻다-02.jpg | |||
파일:20220124-인공지능, 법에게 미래를 묻다-03.jpg | |||
</gallery> | |||
[[분류:책]] | [[분류:책]] | ||
[[분류:도서]] | [[분류:도서]] | ||
2022년 1월 24일 (월) 22:55 기준 최신판
인공지능, 법에게 미래를 묻다
_%ED%91%9C%EC%A7%80.png)
| 제목 | 인공지능, 법에게 미래를 묻다 |
|---|---|
| 저자 | 정상조 |
| 출판사 | 사회평론 |
| 출판연도 | 2021 |
| 쪽수 | 204 |
| 평점 | 5.5/10 |
| ISBN | 9791162731376 |
1 개요[편집 | 원본 편집]
AI 시대의 새로운 사회문제, 법이 제시할 해답은?
인공지능(AI)이 중요하다는 사실을 모르는 이는 이제 별로 없다. 4차 산업혁명도 상식이 되었다. 그러나 아직까지 많은 이들이 첨단기술의 영역이라고만 여기며 단순한 소비자에 머물거나 막연히 일자리 상실 등을 두려워할 뿐, 실제 자신의 일이라고 생각하지 않는 게 사실이다.
이 책은 알파고부터 크롤러, AI스피커, 이루다에 이르기까지 이미 활동하는 흥미로운 인공지능 로봇들을 소개하고 그로 인해 새롭게 부상한 이슈를 하나하나 짚어 나간다. 우리나라 최정상 법학자인 저자는 한 사회의 기본 테두리라 할 수 있는 법이 이에 어떤 판단을 내려 왔으며, 또 내릴 수 있는지 쉽게 안내하면서 우리 모두가 직면한 문제가 무엇인지 구체적으로 이해하게 한다. 또한 앞으로 더욱 강력해질 인공지능의 시대가 결국 어떤 모습이 될지 상상해보고, 잘 적응하기 위해서는 지금 우리와 우리 사회가 어떻게 바뀌어야 할지까지 짚는다.
2 목차[편집 | 원본 편집]
| 들어가며
데이터 산업의 서막이 오르다: 우리의 미래가 걸린 4차 산업혁명
#지능형 로봇 #휴머노이드
#머신 러닝 #데이터 라벨링 #플랫폼 노동
#데이터 회색 지대 #공정이용 #비표현이용
#렘브란트 프로젝트 #알고리즘 화가 #자율주행자동차
#맞춤형 광고 #검색어 자동 완성 #정보공개청구권
#사물인터넷 #민주주의 #개인정보 이동성
#긱 이코노미 #로봇세 #특이점
로봇 관련 법령 현황 및 개선 방향
차상균 서울대 데이터사이언스 대학원장 |
3 주요내용[편집 | 원본 편집]
- 2018년 일본은 "저작물에 표현된 사상이나 감정의 향유를 수반하지 않는 이용"을 명시적인 저작권 제한 사유로 추가하는 개정을 개정을 단행했다. 개정된 법에 따르면, 저작권자의 이익을 부당하게 해치지 않는 한, 해당 저작물에 표현된 사상 또는 감정을 누리거나 타인에게 누리게 하는 것을 목적으로 하지 않는 비표현이용(non-expressive use)은 저작권 침해에 해당하지 않는다.
(비표현이용의 예 : 기술적 과정에서 일어나는 복제 - 인공지능 학습 데이터 수집 및 이용)
개정 저작권법은 인공지능이 저작물을 학습하기 위해 데이터 사본을 만드는 행위를 적법하다고 본다. 인공지능의 학습은 인간이 감각기관을 통해 사물을 인식하는 것과는 다르며, 그렇기에 '저작물의 사상이나 감정을 누리는'일에 해당하지 않는다고 해석할 수 있기 때문이다.
- 우리나라의 공공 기관 가운데에는 개인정보 보호라는 명분 아래 공공데이터의 공개를 제한하는 기관이 많다. 헌법에 담긴 민주주의 가치를 수호해야 할 임무가 있는 기관이면서 민주주의의 핵심이라 할 수 있는 열린 정부의 정신을 무시하는 국가 기관이 바로 우리 사법부이다. 헌법에 재판 공개의 원칙이 명시되어 있음에도, 우리 법원은 판결문을 극히 일부만 인터넷에 공개하고 있다. 2020년 기준으로 종합법률정보(https://glaw.scourt.go.kr)라는 법원 공식 사이트를 통해 공개되는 판결문은 전체 대법원 판결의 3.2퍼센트, 각급 법원 판결의 0.003퍼센트에 불과하다.
- 2020년 베토벤 탄생 250주년을 기념해 그가 생전에 내놓지 못한 10번 교향곡을 완성하려는 프로젝트가 진행되고 있다. '베토벤-AI'는 베토벤이 남긴 모든 곡을 학습하고 그의 작곡 스타일을 파악해 10번 교향곡을 완성하도록 설계되었다. 로봇이 완성한 10번 교향곡은 베토벤 축제가 열리는 본에서 발표될 예정이었으나 코로나19 때문인지 정식 발표는 늦어지고 있다.
(베토벤 교향곡 10번 Beethoven X – The AI Project 듣기)
- 아이가 어른의 언행을 보고 배우는 것처럼, 로봇 역시 우리의 생각과 행동을 그대로 배워서 반복한다. 로봇은 의식적으로든 무의식적으로든 그동안 우리가 직시하지 않으려 했던 우리 안의 편견과 차별을 거울처럼 명료하게 비춰준다.
- 미래 인공지능 로봇을 이용하려는 기업은 소비자를 보호하기 위해, 정부는 민주주의 질서를 유지하기 위해 알고리즘의 투명성을 확보해야 한다는 핵심 과제를 안았다. 정부의 투명성이 공정한 사회를 만드는 필수 조건인 것처럼 인공지능의 운영이 투명해야만 사회의 신뢰를 얻을 수 있다. 브랜다이스(Louis Brandeis) 대법관이 말한 것처럼 "햇빛은 최고의 살균제"이다. 정부가 무엇을 하고 왜 그것을 하는지가 유리 어항처럼 투명(fishbowl transparency)해야, 국민이 감시와 선택을 통해 진정한 민주주의를 실현할 수 있다. 정부의 투명성은 공직자들이 사리사욕을 멀리하고 정직하게 업무를 수행하도록 유인하기도 한다.
- 유럽연합(EU)이 2018년에 제정한 데이터 보호 규칙(General Data Protection Regulation, GDPR)은 투명성의 원칙을 규정하면서 인공지능 알고리즘의 개인정보 분석 과정에 대한 '설명 요구권'을 포함한다. 이에 따르면 로봇이 내리는 자동화된 결정과 판단으로 인해 영향을 받는 사람은 누구나 관련된 의미 있는 정보를 요구할 수 있다. 이 권리를 보장받기 위해 개인정보를 처리하는 기업이나 정부는 소비자 또는 국민에게 의견을 제출하거나 결정을 수정할 기회를 마련해야 한다.
- 넓게 보면 인공지능에 의한 범죄 예측과 경찰견에 의한 마약 적발은 그 판단 과정을 일반 사람이 알기 어렵다는 점에서 비슷하다. 인공지능이 어떤 데이터에 근거해 어떤 논리로 결론에 도달하는지를 사람이 이해하기 어려운 것처럼, 마약을 적발하는 개의 정보 처리 과정 역시 블랙박스처럼 깜깜하다. 그러나 우리는 마약 탐지견의 머릿속을 들여다보지 못해도 결과는 신뢰할 수 있다. 이들이 공인된 훈련을 성공적으로 마쳤기 때문이다.
이처럼 일반 사람들이 당장은 인공지능의 결정 과정을 이해하기 어렵다면, 그 대안으로 인공지능에게 공인된 훈련 과정을 마련하는 방법이 있다. 마치 제약 회사가 약을 만들어 판매하려면 미리 식품의약품안전처(식약처)에 안전성과 유효성에 관한 임상 실험 자료를 제출하고 심사를 받는 것과 같은 식이다. 실제로 현재 지능형 로봇 의료기기는 식약처 심사를 받아 출시된다.
인공지능은 제약 기술과 마찬기지로 국민의 생명과 자유, 그리고 재산에 엄청난 영향을 미칠 것이다. 새로운 기술이 낳을 끔찍한 사태를 우려하는 데 그치지 말고 예방학 위해 로봇이 제작되고 판매되기 전에 평가나 심사를 받을 수 있는 공신력 있는 전문 기구나 공공 기관을 마련해야 하지 않을까.
- 얼굴 인식의 오류와 편견이 기업이나 정부의 감시 욕구와 만남녀 최악의 빅 브라더(big brother)를 탄생시킬 수 있다. 가까운 예가 중국의 '사회신용체계'이다.
중국 정부는 톈왕(하늘의 그물)이라 불리는 범죄 용의자 추적 시스템을 개발했다. 톈왕은 화웨이, 텐센트 등의 기업이 보유한 데이터와 실시간으로 돌아가는 2억 대의 감시카메라, 얼굴 인식 인공지능이 결합한 거의 완벽한 감시 체계이다. 물론 이전에도 민간 기업이 데이터를 다른 곳에서 활용하는 일은 있어 왔다. 영국의 액시엄(Acxiom)은 소비자 9억 명을 소비 행태와 신용도에 따라 여러 유형과 등급으로 분류했는데, 이 정보를 다른 기업에 제공하기도 했다. 문제는 민간 기업이 수집하고 분석한 데이터를 정부가 영장 없이 활용한다는 사실이다.
