맘스커리어 - AI 시대, 포용적이고 다양한 세상을 만드는 방법

▲12일 열린 체인지메이커 컨퍼런스는 'AI를 포용하는 다양성, AI가 포용하는 다양성'을 주제로 열렸다. 사진은 송예리 연세대학교 박사과정 연구원과 신혜린 고려대학교 교수가 패널 토크를 하고 있는 모습[사진 출처=루트임팩트]

크리에이티브×성수 프로그램의 일환으로 12일 헤이그라운드 성수시작점에서 열린 체인지메이커 컨퍼런스에 참여한 정경선 현대해상 최고지속가능책임자(CSO)는 “AI가 포용성과 다양성에 어떻게 기여할 수 있을지에 대해 즐기고 배울 수 있는 계기가 되길 바란다”고 말했다. 정경선 CSO는 이번 컨퍼런스를 주관한 루트임팩트의 창립자이기도 하다.

‘AI를 포용하는 다양성, AI가 포용하는 다양성’을 주제로 열린 이번 컨퍼런스는 ▲AI가 포용하는 미래 ▲AI에 숨겨진 젠더 코드: 기술과 문화의 상호작용 ▲다양한 코드: AI가 돕는 우리의 포용성으로 나눠 진행됐다. 특히 연세대학교 박사과정 중인 송예리 연구원이 모더레이터로, 신혜린 고려대학교 미디어학부 교수가 패널로 참여해 AI기술이 발전에 따라 (젠더 관점에서)고정관념이 우리 사회에 어떤 영향을 미치고 있는지에 대한 내용으로 패널 토크를 진행했다.

송예리 연세대학교 박사과정(이하 송예리) = 제가 기억하기에는 몇 년 전 채용 과정에서 AI기술을 활용하면서 여성들은 배제되었다, 혹은 왜 AI로 말하는 목소리는 왜 늘 여성인가에 대한 비판이 제기되었던 적이 있었던 것 같아요. 그렇다면 이미 우리가 경각심을 갖고 있다는 말 같은데요. 그렇다면 현재 상황은 그런 우려를 조금 덜어도 되는 상황인가요?

신혜린 고려대학교 교수(이하 신혜린) = 신경을 많이 쓰시는 것 같아요. 데이터 클리닝도 그렇고, 데이터 수집에서의 윤리적인 측면도 그렇고요. 요즘 대부분의 솔루션들은 머신러닝 기반으로 다양한 학습방법을 기반으로 다양하게 개발을 하니까 편향성이 덜한 결과가 나온 것일 데니까요.

그래도 아직 진행이 많이 되고 있지만 완벽하지는 않죠. 그래서 문제가 발생했을 때 바로바로 수정할 수 있는 기동성도 중요하고요. 또 이같은 문제가 발생했을 때 개입하거나, 수정 및 교정을 해 나가는 것도 다양한 측면에서 여러 기관이 있어야 하는 것 같아요. 법제적인 뒷받침도 분명히 있어야 할 거고요.

송예리 = 저는 ChatGPT와 같은 AI기술을 사용하면서 차별적인 발언이라는 생각 등이 들면 그 발언에 대해 정정해 주기도 하거든요.(웃음) 뭐가 변화하길 기대하는 마음으로요. 이런 일상의 작은 신호들이 도움이 되는 부분이 있는지가 궁금합니다.

신혜린 = 네. 당연히 도움이 되는 것 같아요. 사실 저도 ChatGPT와 많이 사용하는데 사용하면 할수록 사용자의 개입이나 규정이 들어갈수록 반영됩니다. 지금 당장 반영되지는 않더라도 차후에 당연히 반영될 겁니다.

아까 AI 보이스에 대한 말씀도 하셨는데, 1세대 AI 보이스는 기본 세팅이 이름도, 목소리도 여성입니다. 물론 들어와서 바꿔보면 다양한 선택지가 있지만, 기본적으로 어떻게 세팅이 됐는지가 굉장히 중요한 거죠. 편향이라는 건 꼭 알고리즘 시스템만이 아니라 상호활동을 하는 사람들도 지속적으로 노출되다 보면 뭐든 당연하게 생각할 수밖에 없어요.

지속적이고 포괄적인 부분에 대한 노출이 정말 중요한 것 같아요. 아이들이 1세대 보이스에만 계속 노출됐다면 당연히 그러한 인식을 갖고 자랄 수밖에 없고요. 요즘에는 다양한 이름의 AI 보이스도 나오고 심지어는 악센트도 다양하게 나옵니다. 그래서 그게 더 중요한 것 같아요.

송예리 = 저는 기술의 발전이 익숙하기도 하지만 때로는 낯설기 때문에 생각도 하고 비판도 하는 것 같은데요. 다음세대 아이들은 저보다 이 존재가 너무 친숙해서 의문을 제기하지도 않는 세상이 올 것 같다는 생각이 들었거든요. 미래세대를 위해 AI 윤리를 지키기 위해 실천적인 것, 아니면 전망이 있다면 뭐가 있을까요?

신혜린 = 기술의 발전 속도가 인류 역사상 가장 빠른 시기에 와 있는 것 같아요. 그러니 사실 손에 잡히는 변화가 있을 수 있겠죠. 매번 새로운 버전이 나올 때마다 이런 공론의 장도 너무 중요하고요. 그리고 모든 방면에서의 개입이 중요한 것 같은데요. 사용자 측면에서도 그렇지만 기업의 측면에서도 그렇고요. 하지만 기업의 경우 이윤을 추구해야 하기 때문에 후순위로 밀릴 수밖에 없어요. 그래서 법 제정 개입도 굉장히 중요할 것 같습니다. 하지만 법을 제정하는 분들이 선도적으로 챙겨서 하기에는 어려우니까 제3의 감시가 중요하다고 생각해요. NPO, NGO, 교육기관의 역할이 굉장히 중요한 것 같아요.

송예리 = 아까 언급하기도 했지만, AI에 대한 기본적인 데이터 세팅에 대한 문제를 막기 위해서 우리가 데이터를 세팅한다면 누가 어떤 기준으로 하는 것이 옳을까요?

신혜린 = 현재 현실의 일부를 반영하는 데이터로만 세팅이 된다면 당연히 이 사회 구조에 반영된 시스템적인 편견들이 확대 재생성 될 수밖에 없습니다. 그러니까 데이터를 구성하는 과정에서 정체성 지표나 상호 부차적인 부분을 고려해서 데이터를 정렬하고, 클리닝하고, 제 3자에게 감사를 받는 노력들은 지금도 진행되고 있고요.

오픈 AI가 선정적이거나 폭력적인 부분의 콘텐츠를 걸러내는 과정은 시스템이 할 수 있는 게 아닙니다. AI가 알아서 하는 게 아니라 사람이 보면서 데이터를 걸러내는 작업을 해야 하거든요. 하지만 이 작업이 고되고 수입은 적어요. 때문에 이 부분은 데이터의 다양성으로만 해결되는 문제가 아니고요. 다양한 측면에서의 과정과 대처 등 모든 것이 같이 고려될 필요가 있는 것 같습니다.

맘스커리어 / 박미리 기자 mrpark@momscareer.co.kr 

[저작권자ⓒ 맘스커리어. 무단전재-재배포 금지]

인구감소에 따른 문제, 산업에 적용해 새로운 비즈니스로

현실로 다가온 인구구조 변화, AI 기술로 대응하는 사람들

초고령화·저출생·지역소멸…AI로 해결할 수 있을까?

“무장애 지도로 크리에이티브X성수 다함께 즐기자!”