[공유] (망상) 알고리즘의 편견 그리고 국가와 거대 기업 간의 권력 다툼

https://blog.naver.com/likearoma/222500178086

[210909] (망상) 알고리즘의 편견 그리고 국가와 거대 기업 간의 권력 다툼

넷플릭스에서 알고리즘의 편견으로 방영된 다큐가 있다.



이 다큐 내용을 요약하자면

1. 아무 법령도 없이 사람들의 안면인식 데이타를 수집해서 마음대로 활용하고 있다. (처음에는 안면인식으로 세입자 출입에 이용)

2. 게다가 흑인은 AI가 사람으로 판단이 잘 안되고 인식률이 떨어진다

3. 영국에서는 지나가는 사람들 얼굴을 촬영하여 위험한 인물을 경찰이 잡기도 한다

4. 중국은 광범위 하게 안면 인식 기술을 활용하고 있다.

5. 현재 세계적으로 빅데이타를 모으는 기업은 9개,, 그중 6개는 미국 3개는 중국이다.

6. 두개의 나라는 방향이 다른데, 미국은 상업주의 쪽이다. 중국은 국가통치 국민관리?로 정치적으로 하는 듯 하다. 미국은 아무런 규제나 가이드라인이 없다. 그 와중에 몇몇 기업 그리고 특정 주(state)에서는 경찰이 윤리적을 문제가 있을 정도로 수집을 한다

7. 중국과 홍콩에서 스마트 가로등 사업으로 길거리에서 무자비하게 사람들의 안면을 인식하여 국민을 관리한다. (홍콩 시위 때 시위대가 스마트 가로등의 안면인식 카메라를 못쓰게 만들기도 했음)

8. 안면인식이든 AI 든, 이러한 데이타에 의한 자동 판단 기술은, 인간적이냐 인간적이지 않느냐 윤리적이냐 아니냐 그런 판단이 전혀 없고, 그냥 프로그래밍대로 처리한다. 입력데이타 값이 그러한 경향이 많으면 결과나 처리도 그렇게 해버린다. 비윤리적이든 말든.

//

그러나 이 다큐를 보면
만든 사람의 의도와 전혀 상관없이 몇몇 인사이트를 얻을 수 있다.



핵심은 다른 곳에 있다.



사실
그동안

(이전글에서도 말했지만)

거대한 권력이 사기업으로 넘어간 적은 거의 없었다.
있었어도 독재 국가에서 권력을 가진 사람이 결탁하여 만든 그런 독점회사였다.

또한 거대한 권력이 넘어가더라도, 대부분 독점과 돈에 대한 권력이었다.
엑손? 아니 록펠러 가문의 스탠다드 오일?

그러나 개인이나 사기업에 거대한 권력(?)을 가지는 것은, 독재자의 친척이 아닌 이상 길게 보면 역사적으로 정부가 허락한 적은 거의 없었다.

그러나 최근에 와서는
IT기업을 중심으로 권력이 넘어가고 있는데..
이에 대한 (눈에는 잘 보이지 않는) 기업과 국가의 패권 싸움이 있는 듯 하다.

//

내가 보기엔 크게 2가지 형태로
기업으로 패권이 넘어가고 있다.

1) 모바일과 인터넷 브라우저 등 IT 플랫폼 독점을 통해, 국가처럼 세금을 걷으려 하고 있다.

선택의 여지가 없는 필수재가 되어버린 여러가지 어플과 OS에서
그 안에서 흘러가는 돈의 흐름에 수수료를 붙여 세금처럼 장기적으로 안정적인
수익원을 얻으려 하고 있다.

2) IT 플랫폼 독점을 통해, 국가처럼 국민에 대한 방대한 데이타를 모으고 있다.

선택의 여지가 없는 필수재가 되어버린 여러가지 어플과 OS에서
그 안에서 흘러가는 사람들의 취향과 돈을 쓰는 경향을
그 사람의 개인 데이타와 결부시켜 하나의 상관관계를 찾으려 하고 있다.
(인과관계는 필요 없음. 상관관계만 있어도 됨)

그리고 그것을 마케팅과 광고 등에 활용하여, 자기네 플랫폼 외의 다른 회사보다 더 효율적이고 더 강력한 이익률을 창출하려고 하고 있다.

//

정부는
권력이 넘어가는 것을 눈치채고 개입하기 시작한다.

1)번에 대해서는 우리나라에서 시행하는 인앱 결제 강제에 대한 금지법안이 대표적이고, 미국와 유럽에서도 비슷한 법령이 추진중. 두번째로는 유럽과 미국에서 진행중인 독점에 대한 규제 법 등이다.

2)번에 대해서는, 개인정보 보호법, 수집에 대한 동의, 등으로 제한을 하려고 한다. 다만, 안면 인식등의 진짜 피할 수 없는 개인 정보에 대해서만 상당한 규제가 있을 뿐, 소비패턴과 기타 다른 것들에 대한 개인정보에 대해서는 상업적 이용에 대해 규제가 덜하다. (아직까지는 무주공산 - 그래서 it 빅데이터 개발자들이 뛰어들고 있다)


//




사실 길게 보면
언젠가는 정부와 기업 싸움은 평형상태가 올 것이다

기업과 기업끼리의 싸움에서는
(이미 승자가된 9개의 기업을 제외하고는)
어떤 기업이 이길지 모르겠지만

긴 흐름을 보면
(과거 사례를 보면)

어쨌든
(지금은 그래도 초기라서)
먼저 나아가 크게 차지하는 사람이 승자가 될 가능성이 높다. (기업들 사이에서)

하지만

너무 튀거나 국민 악감정을 사거나 특정 이익집단(이미지가 서민쪽인 집단)의 이익을 노골적으로 앗아가면, (그 이익집단의 지지가 필요한) 정치세력에 의해 그 회사는 큰 타격을 받는거 같다. (ex 타다)
(사실 타다가 망한 이유는 거의 99% 경영자의 잘못 - 태세전환을 못함, 분위기 파악 못함 - 이라고 본다. 타다는 자신의 억울함만 강조할 뿐, 정치적 사회적 해결을 하려고 하지 않았다. 정책적 법적 해결을 하려고는 했지만, 정치적 사회적 해결에는 적극적이지 않았다. 사실 타다가 망한 이유는 경영자의 잘못이지만 그 배경은 정치적인 원인이었다. 선거를 앞두고 10만이 넘는 택시 운전사와 그들 가족의 표를 정치권에서는 무시할 수가 없었다. 타다의 경영자는 전체적으로 흘러가는 큰 틀을 보지못했다. 타다가 카카오처럼 태세전환을 빠르게 했다면 결과는 달랐을 것 같다. 지금 당장 손해가 나든 말든 일단 택시운전사의 면허권을 적극적으로 제값을 주겠다고 선언했다면 사태는 다르게 흘러갔을 것이다. 심지어 현재의 시장 시세보다 값을 더 처주겠다고 했다면 대부분의 택시 운전사들은 타다를 오히려 더 지지했을지도 모른다. 손해? 수지타산? 나중에 지키든 못지키든 일단 시간을 버는 측면에서라도 그런식으로 시나리오를 짜서 진행했어야 했다. 왜냐면 살을 주고 뼈를 취해야 하는 시점이었기 때문이다. "불법도 아닌데 왜 살을 주냐?" 라는 경영자의 생각은 잘못된 것이었다. 모빌리티는 수십년 수백년간 대세가 될거고, 타다가 잡은 업계 1위는 수조원? 그 이상의 이상의 가치가 있었다. 면허 10만개보다 더 가치가 있었다. 타다는 택시 운전기사들이 왜 화를 내는지 이해하려 하지 않고 오직 국토부 유권해석만 믿고 있었다. 그러나 유권해석은 정치적 이유로 쉽게 바뀌게 마련이다. 사회적 틀을 깨거나 프레임을 변환 시키려면 사회적 합의 정치적 합의가 필요하다. 그게 불법이든 합법이든 그건 중요하지 않다. 사회적으로 관대하게 처리될 것 같다면 불법도 합법이 되고, 사회적으로 지탄의 대상이 된다면 합법도 법이 바뀌어 불법이 되면서 소급적용된다. )

먼저
크게 나서서
 
많은 데이타를 장기간 모으면,

 
필연적으로 정부에 눈에 띄어
규제의 대상이 되고,...
가장 첫번째로 뚜드려 맞는 예시가 될 가능성이 크다,, 그러나,

그 짧은 시간내? 혹은 몰래 몰래 긴 시간 동안
아주 거대한 데이타를 모은다면,

그것을 인질로 정부에게 양보해 줄 것들이 더 많아 결과적으로 승자가 될 가능성이 있다고 나는 생각한다. 그러니 뚜드려 맞고 소송 걸리더라도, 일단은 크게 모으고 다 모으고 크게 먹는 방법이 더 좋다는 것이다. (기업들도 이를 알고 있다)

또한 이 회사가 급격히 더 커지면 커질수록, 정부는 이 회사를 규제하려고 해도 부담이 생긴다.

결국 언젠간 (국가와 기업간) 평형 상태가 될 것이고
어느 정도 가이드라인도 생길 것으로 본다.

//

================================


여기까지가 일반적 추론인데
 
여기서 한발 더 나아가 생각해보면
조금씩 관점이 바뀐다.

이러한 장기간의 큰 데이타를 모으고
인간을 분류하고 상관 관계를 정리할수록

인간 끼리의 차이는 줄어들 수 밖에 없고
인간은 하나의 사소한 존재가 되어 버리는거 같다.
(빅데이타의 가장 큰 문제는 인간이 사소한 존재가 되어버리는 것이다)



...

그러니까 또다시 반복되는 이야기지만

어떤 개인의 능력이 정말로 출중하여
새로운 틀을 만들어내지 않는 이상,,
(새로운 틀을 만들어 내는 데 성공한 사람은 그 틀의 지배자가 된다.)

상당히 똑똑한 정도, 그 정도만으로는... 결국 거대 IT 회사의 부속(개발자)으로 소진될 수 밖에 없는 듯 하다. 아주 아주 잘되어봤자 경영자에 근접할 정도? (물론 그마저도 대박이겠지만)

최근 이 어려운(?) 상황에서

최근

신생 IT 창업이 봇물을 이루는 이유는 바로

부속이 되기를 거부하고 (아직 발견되지 않은 황금산맥인) 서브 "프레임"을 하나라도 먼저 차지하려는 경쟁,,,,, 그런 이유인 것 같다. (누군가 먼저 차지할수록... 그리고 시간이 갈수록 기회는 줄어들겠지)

즉 모두가 나락으로 떨어져 하나 하나의 작은 부속이 되는 과정에서,
그 냄비 안에서 비집고 나와 탈출하려는 시도... 끓는 물에서 다같이 삶아지기 전에, 혼자라도 재빨리 탈출하려는 "게"crab 같은 ... ^^





탈출하기 위해 잡아야 할 동아줄은 이제 남은게 별로 없다.

- 웹툰 작가?
- 특정 분야 넘버 원 어플? (그 국가 한정이라도, 분야가 작더라도)
- 특정 소비시장 연결 어플? (야놀자도 그렇게 시작)
- 특정한 물건(기구) 특허...
- 작곡을 통한 저작권 확보
- 특정지역 특정물건 판매 독점권..

or

none (월급장이 or 자영업자)


/

최근 흐름을 보면
물리적 기술적 혁신은 매우 더딘 양상을 보인다.

사실 얼마나 더 기술적으로 정체(?) 될지는 모르겠지만
현재로서도 내 생각에 이미..
80%?? 정도까지는..,

인간의 편리함을 위한 (물리적) 개발은 거의 상당히 다 나온 거 같다.
(물론 화학적 개발(약제)은 아직도 많이 남은 듯 하다)






왜냐하면

이론적으로
무엇이든 물리적으로 계속 쪼개면 결국 비용 대비 쪼개는 효과가 (혹은 쪼개는 기술이) 임계점에 도달하는 순간이 온다. 기술발달로서 극복이 일부 되겠지만 이건 공간적 차원의 문제라 결국 한계가 있다.

결국 "x"를 무한대로 계속 반복하여 덧셈하더라도
"x" 값이 일정 비율로 줄어든다면, x 값을 영원히 계속 더하더라도 결국 수렴되는 특정 값이 존재하게 된다.

바벨탑을 계속 높이 짓더라도
결국 바벨탑 맨 꼭데기의 흙도 결국은 지면에서 갖고 올라가야 하기 때문에
바벨탑이 높아지면 높아질수록 비용이 증가하고 시간이 증가한다.
결국 이론적으로 바벨탑은 그 끝이 존재할수 밖에 없는 것이다.

그렇게 되면 (확보된) 그 틀 안에서 순환 싸이클로 넘어가게 된다.
 
그리고 그런식으로 순환사이클이라는 그 틀이 완성되면
"순환 사이클 내에서는 아이디어와 콘텐츠 가 중요성을 갖게 된다. "

이미 이렇게 된 분야는 바로 패션이다.
패션은 여러가지를 시도해 볼수 있지만
결국 팔 2개 다리 2개 머리 한개라는 고정된 틀이 존재하기 때문에
치마든 바지든 원피스든 점퍼든,
경우의 수가 많지 않아, 결국 (크게보면) 돌고 도는 순환 시스템으로 들어간 듯 하다. (할게 없으면 - 변형된 - 복고풍이다)

기존의 과학도 마찬가지
이 틀 안에서 발전을 계속 한다면
이 틀 안에서는 한계가 분명히 존재한다.
(지금 과학은 깊이에 한계가 다다르게 되자 융합 쪽으로 가고 있다. 또한 아직은 할게 많은 화학분야나 유전자, 바이오 쪽으로 가고 있다.)

/
또한 인간은 태어나면 지식이 0 이라서
결국 모든 인간은 (아무리 똑똑한 인간이라도)
처음에 지식이 0 에서 시작해야 한다.
(이것은 바벨탑의 원리와 같다)


////


결국
모두가 비슷해지는,
모두가 소비수단이 되는,
모두가 부속이 되는, 미래에서


내가 생각하는

핵심 키워드는 결국 아래 세가지 밖에 없다.

3+1

1) 엔터테인(컨텐츠),
2) 물리적 이동 수단 (모빌리티) 개인별 혹은 공용 필수재
3) 통신 기기 (혹은 os) - 플랫폼

+ 집단효과(or 방문자수, 구매자수) - > 부스터 효과

즉 3+1이다.



추가적인 핵심 키워드는 (생각나는대로 적어본다. 개인적인 생각임)

1) 여자 - 인간 생산, 미학(엔터)
2) 노인 - 소비 주체 - 소비할 때만 가치가 있다. 결국 끝에 가면 의학적 치료도 소비가 된다. 결국 치료도 판매되고 죽는 수단도 판매될 것. ( 스위스, https://www.joongang.co.kr/article/23411779#home )
3) 모바일(핸드폰) - 개인별 기기로써

4) 모빌리티 인프라 (도로, 철도) - 필수재 GTX
5) 통신 - 인프라5G
.
.
등등


그러나

이중에 제일은 사랑.. 아니 "컨텐츠"다.