생성형 AI, 교육에 사용하기 전 '편견 인식'부터 익혀야

챗GPT와 같은 생성형 인공지능(AI)이 교육에 점점 더 많이 도입됨에 따라 교육자는 AI에 만연한 편견을 식별하고 해결하는 데 능숙해져야 한다는 지적이 나왔다.

최근 열린 ISTE 컨퍼런스에서 뉴저지주 센트럴 초등학교의 마이클 개스켈 교장은 ”AI는 교육과 학습에 상당한 이점을 제공하지만, 이 혁신적인 기술을 최대한 활용하기 위해서는 의도치 않은 편견을 이해하는 것이 중요하다“고 발표했다.

개스켈 교장에 따르면 AI는 데이터에 숨어있는 편견을 반영하며, 이는 왜곡된 이미지나 콘텐츠 생성으로 나타날 수 있다. AI 이미지 생성기에서 '성공한 비즈니스맨의 사진'을 검색했을 때 네 개 중 세 개가 백인 남성이라는 결과가 나왔다. 흑인 여성의 이미지는 단 한 장뿐이었다.

'집중하는 학생'의 이미지를 요청했더니 처음 세 개는 남학생, 두 개는 백인, 세 번째는 아시아계 남학생, 네 번째는 고등학생으로 보이는 여학생의 이미지가 나왔다.

다음으로 AI 이미지 생성기에 고등학교 운동선수의 이미지를 생성하도록 요청하자 첫 번째 이미지는 백인 남학생이었고, 두 번째 이미지는 흑인과 갈색 남학생이었다.

교실에서 이러한 편견을 탐색하고 그 영향을 완화하는 것은 가능하다. AI 시스템에 신중하게 프롬프트를 보내고 AI 이미지 생성에 내재된 편견을 밝혀주는 확산 편향 탐색기 또는 평균 확산 얼굴 도구와 같은 도구를 사용하는 것이다. 확산 편향 탐색기는 한 직업에 대해 생성된 이미지를 비교하고, 평균 확산 얼굴 도구는 AI가 생성한 이미지를 기반으로 여러 직업에서 공통적으로 나타나는 얼굴의 표현을 보여준다.

검색과 연관된 패턴에 대한 우려를 강화한다. 이는 교사와 학생 모두에게 생성 편향에 대한 경각심을 가르칠 수 있는 매력적인 수업을 제공한다.

개스켈 교장은 “AI 이미지 생성기는 아무리 똑똑해도 한계가 분명히 존재한다. AI 생성의 편향성은 이미지에만 국한되지 않는다. 편향된 결과는 서면 프롬프트에서도 나타난다. AI 제작자들은 이 문제를 해결하기 위해 노력하고 있지만, AI는 여전히 현저하게 불완전한 생산성 시스템을 특징으로 하고 있다”고 말했다.

예를 들어, 몇 가지 단어를 추가하여 검색 프롬프트를 세분화하면 보다 균형 잡힌 결과를 얻을 수 있다.

개스켈 교장은 “AI는 교육 분야에 엄청난 기회를 가져다줄 수 있지만, 교사와 학생 모두 AI의 내재적 한계, 특히 편견을 재생산할 수 있는 잠재력을 인식하는 것이 중요하다. 교육자는 생성된 편견에 대한 인식을 교육에 통합하고, 학생들이 표적화된 프롬프트를 사용하도록 장려하며, 편향된 콘텐츠를 걸러내도록 지원함으로써 이러한 이해를 증진할 수 있다”고 설명했다.

그는 편향되지 않은 콘텐츠 결과를 유도하는 프롬프트 10가지 예시를 공개했다. 세밀하고 타겟팅된 프롬프트로 편견 없는 AI 답변을 이끌어낼 수 있다고 덧붙였다.

AI의 편향성 문제를 의식적으로 인식하고 해결함으로써 교실에서도 포용적이고 균형 있게 사용할 수 있을 것이다.