cat tag


인공지능이 인간의 의도를 읽는 것은 불가능하다 + 가짜뉴스 + 인프라 내맘대로 뉴스논평

http://news.zum.com/articles/54560975
<마우스 우클릭후에 새탭에서 열기를 클릭해 주세요 - 새창에서 열기에 버그가 있어요>
<인간의 의도를 읽는 것과 통증등에 대해서 성공했다는 기사>

인공지능이 인간의 의도를 읽었다고 하지만 어떤 의도와 모든 의도는 다르고 실험실 환경과 실제 환경은 달라요.

간단히 말하면 이런 거에요. 앞에 머핀 하나와 커피를 마시게 했다는 것을 의미하는 것이에요. 눈으로 보는 지점과 손이 움직이려는 하는 손마비 환자의 의도를 파악했다.

이런 어떤 문제에 대한 의도를 아는 것과 인간의 모든 의도를 아는 것은 다른 것이지요.

문제는 또 있어요. 사람의 의도를 읽은 것이 아니라 컨트롤러를 만든것이지요. 실험실 환경이라는 가장 간단한 환경에서 작동되는 것에서 일반적인 모든 사람들이 머핀과 커피를 마시기 위한 의도를 파악한 것이 아니라 실험실 환경에서 기계를 컨트롤 하기 위한 컨트롤러를 만들어 놓은 것에 불과하다는 것이에요.

다시 말해서 다른 사람과 눈을 맞추며 이야기하면서 머핀을 집는 행동. 시각으로 보면서 손을 뻗어야 작동하므로 이런 경우에는 의도를 파악하지 못하고 심지어 작동하지도 않아요. 머핀의 위치를 오래전에 기억하고 이야기하면서 자연스럽게 머핀을 잡는 사람들의 의도는 파악이 안되는 것이지요.

단지 이 기계는 새로운 컨트롤러를 만든거에요. 여러분이 축구 게임할때 X버튼 누리면 숏패스하고 ○버튼 누르면 슛하고 △버튼 누르면 쓰루 패스하는...>_<;; 그것과 같은 새로운 컨트롤러이지요. 사람들이 이 제품의 컨트롤 방법을 모르고 일반적으로 행동했을때 의도를 파악했을까요? 아니면 이 컨트롤러에 맞추어서 학습효과가 발생했을까요?

의도를 파악했을까요? 컨트롤러를 학습했을까요?

그리고 모든 것은 센서로 정보를 수집하고 그 정보로 연산해서 결과가 나오는 것이 기본이에요. 센서 만들었다는 뉴스...그것이지요. 차라리 학습을 안하고 컨트롤러를 정확하게 학습시키는 것이 더 효과가 좋을 거에요. 정확도 낮은 빅데이터로 학습하는 인공지능으로 인해서 의도하지 않는 행동을 하는 것 보단 말이지요.

이런 부분이 장애인에 대한 이야기이기 때문에 다루기가 짜증나요. 이런 특수한 상황에서 이루어진 것의 의미는 별것 없다라는 부분을 제시하는 것은 장애인에 기계를 만들어지는 것에 반대한다고 비춰질수도 있기 때문이지요. 그러나 그런 의미는 아니고, 이 기사가 이것만으로 인공지능의 사람의 의도를 파악했다는 것에 대해서 그런것은 아니다라는 것을 제시하는 것이에요. 이런 기사 비판하기 어려워서 어제 패스했는데 오늘도 이 기사 메인이기에 선택해봤어요. 대부분은 이 뉴스 봐도 아니라는 것을 알겠지만요.

<마우스 우클릭후에 새탭에서 열기를 클릭해 주세요 - 새창에서 열기에 버그가 있어요>
<국가가 행정에서 인공지능, IoT, 5G등의 기술 인프라 구성>

국가가 최신기술이라고 막 사용하면 어떻게 될까요? 정부 실패를 일으키지요. 그럼 신기술이라고 안사용하면 어떻게 될까요? 그것도 정부 실패를 일으킵니다.

정부 실패라는 것이 국가의 재정을 낭비한다는 의미가 있어요. 국가가 경제학을 완전히 무시하고 운영할 수는 없다는 것이지요.

이러한 부분에 있어서 효율을 생각해서 효율이 있다면 최신기술을 사용해야 하고, 효율보다 비용이 높다면 최신기술이라고 사용해서는 안된다는 부분이 있어요.

이런 부분에서 과제 몇개는 잘못되지 않았을까? 하는 생각이 들어요.

여러분이 생각할때 사람을 기계로 바꾸었을때 인건비를 안꼈다 같은 생각을 할 수 있어요. 하지만 행정의 목표는 이윤이여서는 안되잖아요. 그러면 시장 실패가 일어나요. 즉, 경제대공황이 온다는 것이지요.

국가는 이윤이 목표가 아니라 공익, 형평성, 자유, 정의등을 목표로 합니다. 그 과정에서 이윤등을 남겨서는 안된다는 것도 아니에요. 정부의 제 2섹터에는 이윤을 목표로 하는 정부기관(공기업)이 있어요. 이윤을 남기더라도 공기업은 공익, 자유, 정의, 형평성등의 행정의 목표도 무시할 수 없다는 것이지요.

<마우스 우클릭후에 새탭에서 열기를 클릭해 주세요 - 새창에서 열기에 버그가 있어요>
<미국의 50%가 개인정보에 대한 유려>

이러한 부분에서 개인의 사생활 침해등의 문제를 일으킬수 있는 지능형 CCTV등의 문제에 대해서는, 재검토가 필요할 것으로 생각됩니다. 제가 공무원이 되면 이러한 부분에 대해서 일을 하더라도 할수 밖에 없어요. 공사를 구분하는 것은 비교행정론에 의해서 공무원의 기본적인 덕목! 그러나 이러한 부분의 문제는 공무원 되기 전에는 제시할 수 있지요.

이러한 부분이 효율적인가? 하는 것은 지능형 CCTV로 범인을 검거했다고 하지만, 지능형 CCTV가 없다면 검거하지 못했을까? 라는 부분을 생각해 봐야 합니다. 그것이 가능하다면 국민에게 사생활 침해를 하거나 국민의 우려를 만들어내는 부분은 제거해야 하지 않을까 생각되네요.

<마우스 우클릭후에 새탭에서 열기를 클릭해 주세요 - 새창에서 열기에 버그가 있어요>
<네이버의 광고화의 문제>

네이버 사이트 전체가 점점 쇼핑몰화 되고 있어요. 심지어 기업들은 네이버에서 검색하라고 하는데, 왜 네이버 검색하라고 하겠어요? 그만큼 결과를 조작하기 쉽다는 것이겠지요. 자기들 상품 검색해서 단점이 나오는 결과가 나오면 그곳에서 검색하라고 하겠어요? 왜 다른 곳에서 검색하면 안되고 네이버에서 검색해야 할까요? 그런 제품이 좋은 제품일까요?

네이버 검색이나 네이버 서비스에서 이렇게 조작하기 좋은 환경을 제공하는 것에 대해서, 가짜 뉴스가 문제라면 이렇게 소비자들에게 올바른 정보를 제공하지 못하는 네이버도 문제가 아닐까요?

네이버가 어떻게 해서 수익을 늘려주는냐? 이러한 부분이 공정한 경쟁이 되는 것인지? 아니면 네이버가 수익을 늘리기 위해서 사용자들에게 조작을 하는 것은 아닌지 이런 부분에서도 가짜 뉴스처럼 조사해야 된다고 생각합니다.

그런 부분이 아니더라도 네이버는 지난 2년간 평균적으로 매달 2%씩 점유율을 잃고 있어요. 네이버에서 검색결과나 서비스에 대해서 떠나고 있거나 네이버를 사용하지 않고 다른 서비스를 사용하는 유저들이 늘어나고 있는 추세라는 것이지요.

네이버에서 광고만 찾아주기 때문에 네이버에게 검색하고 싶지도 않고 네이버 정보를 찾기도 어렵지요. 광고를 보기 위해서 검색하는 것은 아니고요. 네이버가 검색 질을 포기한 것은 평균적으로 매달 2% 하락같은 결과를 분명히 받을 것이라 봅니다.

더불어서 한가지 요즘 우려되는 것은 심지어 최근에는 검색결과에 2페이지부터, 혹은 1페이지부터도 여러분이 보는 정보를 다른 정보로 바꿔버리는 경우도 있는 듯 보여요...>_<;;; 이러한 것은 검색결과를 검색하였을때, 검색엔진 사이트가 아니라 다른 악성 프로그램등으로 인해 정보를 수정해서 다른 정보를 주고 그 정보를 본 사람들의 어떠한 행동을 유도하는 실험을 하는 것 같아요.(그런데 이것 마틴 루터 킹에게 예전에 FBI가 했던 것으로 알려져 있지요. 빅데이터 공부하는 사람이라면 한번쯤 배웠을 듯^^ 그 당시에는 인터넷이 없어서 편지를 사용했어요.)예전에 검색 했을때, 약간 렉이 발생한 듯, 조금 늦게 바뀐 경우를 발견했거든요. 검색엔진에서 결과를 처음 검색해서 블로그 쓸 글을 Fact 체크하다가 다시 검증할려고 검색하니 다른 결과가 나오는데, 시간이 안맞아서, 다른 결과로 늦게 바뀌더라고요...>_<;;; 이런씩으로 가짜 Youtube 사이트로 연결시키는 방법이 좀 흔한 방법이고 예전부터 있었던 방법이에요. 예전에는 주소를 보면 알수 있었는데, 요즘에는 단지 화면만 바꿔버리면서 잘못된 정보를 사람들에게 주는 듯 보입니다. 검색키워드랑 2페이지부터 전혀 매칭 안되거나, 1페이지에서 여러번 검색할때 결과가 자주 바뀐다면 누군가가 그것을 통해서 우리의 사고를 바꿀려고 노력할지도 모르는 것이지요. (그러나 전 마틴 루터 킹 목사의 경우를 미리 알고 있어서...>_<;;;) 그런 상태에서 검색결과에 썸네일을 클릭해도 그것이 실제 있는 웹사이트라고 생각하기 어려울수도 있어요. 저의 경우는 한글로 되어 있는 사이트로 연결되고 그 사이트에서 전혀 이해할수 없는 한쪽으로 치우친 리플만 있다는 것을 봤기 때문에 이것이 분명 한국내에 있는 사람들의 의해서 운영되고 있을 것이라 생각합니다. 몇일뒤 다시 검색하면 그런 검색결과를 볼 수 없어서 좀 의아해 지기도 하지요...

이런 경우를 막기 위해서 검색은 Tor를 이용하는 것이 좋은 것 같아요. Brave 브라우저(광고 제거 기능 기본 탑재, Chrome보다 빠른 속도의 부라우저) 사용하면 Tor가 기본 탑재되어 있지요. 옵션에서 Tor를 이용한 새로운 비공개 윈도우를 선택하면 됩니다. 여러분이 검색할 때에 여러분에게 물건을 팔기 위해서 조작하는 정보를 받지 않기 위해서 Tor를 사용해서 여러분의 IP정보를 숨기고, 검색하는 것도 필요하다고 생각합니다. 또한 추가된 장점은 맞지도 않는 개인맞춤을 사용하지 않는, 즉 회피할수 있는 방법이지요. (단 캐시는 자주 삭제할 필요가 있음)