• Hyezine

기술, 다 믿지 마.



컴퓨터는 인간으로부터 배워요

처음부터 짜잔! 하고 나타난 것이 아니랍니다.


우리가 생각하는 모든 테크는 결국

우리 인간이 만들어 나가는 것이기 때문에

책임감 있게 기술을 만들고 활용해야 되더러구요


Tech for Social Innovation 이라는 쉅을 듣는데

첫 수업 과제가 "Design a code of ethics for the future of AI" 였어요.


Code of Ethics 란, 윤리강령!


일단 I don't know much about AI..

AI라 하면 누구나 어느정도 다 아는 알렉사나 Siri를 생각했고

느낌적인 느낌으로만 알았는데 (거의 모른다는 뜻이겠죠? ㅎ)


수업을 통해 조금 더 깊히 들여다 보니


우리가 인터넷 상에서 쓰는 모든 언어, 말하기 습관, 글 쓰는 방식

즉, 댓글부터 게시글, 음성 녹음 등등

우리의 인터넷 상 언어가 컴퓨터의 밥이더라구요!

FOOOOD


그 데이터를 흡수하고 먹는 컴퓨터,

때로는 무분별하게 데이터를 마구 처먹는 컴퓨터


'처 먹는' 이라는 표현이 약간 강하게 들릴수도 있는데

실제로 AI가 무분별하게 우리들의 언어와 데이터를 '처 먹어'서

결국 AI는 사용자에게 인종차별적인 반응을 보여

테크업계에서 아주 크게 난리가 난 적이 있었대요!


구글이 사진 속 인물, 동물, 그리고 사물을 인식하여

이미지가 무엇인지를 가늠하고 그루핑까지 할 수 있는 기술을

AI 기술로 만들었었는데요,


구글의 의도는 사용자가

사진 정리 및 사진 찾기를 보다 쉽게 할 수 있도록 하기 위함이었는데


아프리칸 아메리칸 즉, 흑인 친구가

친구들과 찍은 사진을 구글 포토앱에 업로드하자

사진 속 사람들을 '고릴라'라고 인식한 구글 AI.. ㅎㄷ


미국에 엄청난 인종 이슈 + 사회적 이슈가 되어

구글이 그 사건 이후 아예 '고릴라'라는 항목을 AI 상에 없앴다고합니다.


뿐만 아니라 카메라 회사 Nikon,

인물 사진을 찍을 때 얼굴 인식 AI 기능을 서구형 얼굴 타입에 맞춰

사용자가 셀카를 찍을 때 동양인의 얼굴을 인식하지 못해

다시 찍으라는 지시를 내리는 카메라..


이 또한 인종 차별이 아니냐며 테크 회사들의

AI 기술 개발에 대한 회의감을 호소하는 사람들!


멀리서 보면 약간 웃길 수도 있는데


이게 단순한 기술 문제가 아니라

어면한 인간이 저지른 AI 개발상의 문제라는 거, 아셨나요?


IBM AI 기술 개발에 참여하고 계신 저희 교수님이 그러시더라구요


" 데모그래픽만 보면 오늘날 기술 기반 사업장의 CEO들은 대부분 3-50대 백인 남성들이지. 그래서 이런 현상들이 나타나는 것일 수도 있어요."


너무 솔직하면서 믿고 싶지 않았던 그녀의 발언,

거부할 수 없을 정도로 사실적이면서 사이다 같았던 그녀의 반응..

깜작 놀랬답니다 전.


누가 back-end에서 AI를 개발에 참여 하느냐,

누가 AI 기술 영업에 결정권을 갖고 미래를 이끌어 나가느냐에 따라

미래가 달라질 수 있더라구요!


"난 터미네이터에 나오는 SKYNET이 지구를 점령하는 날이 올 것 같아 이대로 가다간.." 이라고까지 말씀하신 교수님 ㅠㅠ 무셔워..


기술의 진보와 발전은 막을 수가 없어요.

하지만 보다 윤리적인 방식으로는 개발할 수 있다고 생각합니다.


어떻게하면 인류의 보다 윤리적인 AI 와의 미래를 그려나갈 수 있을까요?

우리들의 삶 속에 너무나도 자연스럽게 스며 들어온 기술에 대해

우리 한 번 같이 생각해 봅시다!

조회 18회댓글 0개

최근 게시물

전체 보기