인공지능 훈련에 허점이 있을 경우 실제 사례들 +888 [37]

댓글(40)

• 잉여장인11/15 답글달기

  그러니까 인공지능 진화의끝은  한국인이라는 거지?

• 한상원11/15 답글달기

  버섯분류 경우는 버섯 읽으라 시켰더니 사람 읽은 거네요. 인공지능은 이미 알게 모르게 사람 읽기를 시작한건지도..

• 오☆리11/15 답글달기

  게임 개발하는 사람은 이글보고 분통터지며 데자뷰느낄듯

• 똘이형11/15 답글달기

  누워있는 환자를 뒤집을듯요

• 똘이형11/15 답글달기

  이렇게 스카이림에 가까워지게되고 결국 인류는..

• 복소기하학11/15 답글달기

  스카이넷...

• 나이쓰11/15 답글달기

  사람도 똑같아요 ㅎ 축구 경기룰이 단순히 상대팀에 골을 많이 넣으면 된다면 진상 경기가 펼쳐지겠죠 ㅎ

• 유악11/15 답글달기

  저게 되게 당연한건데.. 인공지능을 인격체에 빗대어서 생각하면 꼼수를 쓰는걸로 보이지만 사실상 알파고가 진보하는 방식과 하나 다를 거 없는 방식으로 학습시킨건데 놀랄 이유가 없어요. 그냥 최적화할 목표를 잘못 설정했거나 행동에 제약이 없다보니 가능한 많은 행동조합을 짜서 그 중에 가장 효율적인 걸 찾은거죠. 예를 들어 제일 처음 나온 팬케이크 던지기에서 멀리 던지는 게 목적인데 체공시간을 기준으로 평가하면 당연히 체공시간이 길어지는 쪽에 수렴하죠. 이미지 분류의 경우도 줘서는 안되는 데이터인 설치 경로를 입력값으로 넣었으니 자료를 이것저것 만지다가 분류정확도를 가장 높일 수 있는 변수인 경로만으로 자료를 분류하게 되는거고요. 인공지능이 무섭거나 우습다고 말하고 있지만 결국 사람이 실험설계를 바보같이 한거에요. 알파고의 경우 제대로 행동을 제약하고(무리수를 안두도록 가능한 행동 탐색공간을 줄임) 목적을 상대보다 많은 집을 얻는 것으로 확실히 하니까 제대로 학습 하잖아요. 이런 무분별한 내용으로 인공지능에 대한 잘못된 인식을 심는 건 문제가 있다고 봅니다.

• 유악11/15 답글달기

  대체 테트리스를 시키는데 일시정지는 왜 누를 수 있도록 행동을 주고 학습을 시킵니까; 얘들은 놀고 있는게 아니기 때문에 할 수 있는 행동을 두고 어느 순간에라도 가즈아아 하고 아무거나 눌러볼 가능성이 있어요. 저런 짓을 수천수만번 하다보면 마지막에 일시정지 누르는 선택지도 한번은 밟게 되는거죠.

• SYSTEM11/15 답글달기

  MOVE_BESTOFBEST/400925

1 2 3

댓글을 남겨주세요.