AI윤리) 수업 토론 쓴 것

교육용 AI를 위해서는 어떤 윤리적 측면이 가장 중요한가?

AI가 적용된 시스템이 언젠가는 우리 옆에서 교육을 도와줄 수 있을거 같다. 교육부에서는 교육 빅데이터 구축을 하여 학생들 개개인의 학습 발달 상황을 DB화하여 구축하고 이를 통해 초개인화 맞춤 학습을 지향하고 있다. 초중고 교사는 아마도 이러한 시스템의 도움을 받아 학생 개개인의 학습 발달 상황을 점검하고 아이들의 상황에 맞는 교육 콘텐츠를 제공할 수 있게 될거 같다.(물론 희망적으로 생각해서...^^) 교사가 이러한 AI의 도움을 받아 학생들을 지도한다면 이러한 AI가 가져야할 윤리적 측면이 무엇이 될 것인가? 투명성, 제어가능성, 신뢰성, 공정성, 책무성 등등 다양한 AI 윤리적 측면 중에서 어떤 것이 주요한 이슈가 될지에 대해서 한번 생각해 보면 좋을거 같다.

 이 주제를 안성진(AHN SEONG JIN)이(가) 편집함

내가 쓴 것 

 1. 소극적 도입, 저사양AI  + 투명성

  AI를 교육에 적용할 때 문제 풀이나 교사의 업무를 돕는 수준으로 소극적으로 도입하고 점차 도입영역을 확대할 때 신약을 임상시험을 거치듯 도입되어야 한다. 학습 및 정신적 성장을 하는 아이들에게 AI가 미치는 영향을 알기 어렵다. 유튜브 알고리즘을 개발했던 사람이나 좋아요 버튼을 만들었던 사람도 그 간단한 기능이 사회적 문제를 만들 것이라 예측하지 못했다고 말하는 것처럼 말이다.

 또한 어떤 과정을 거쳐 그런 결정을 내리게 되었는지 알기 어려운 복잡한 알고리즘보다는 수학공식 수준의 고전적 알고리즘과 적은 파라미터를 가진 AI를 이용해야 한다고 생각한다. 그래야 결과 값이 나온 과정이 대부분 추측되는 정도의 강한 투명성을 지닐 수 있다.

2.  AI의 교육적활용에 자주 등장하는  "초개인화 맞춤학습"이라는 말이 마케팅용어에 가깝고 발생할 수 있는 비교육적 효과에 대한 숙고도 적은 것이라 생각한다.

 공장식 교육과정을 비판하는데 "초개인화 맞춤학습"의 내용들을 보면 최첨단 공장식 교육과정처럼 보인다. 스스로 학습을 계획하고 자신의 상태도 파악하는 메타인지와 다른 사람과 소통하고 함께하는 수업이 아니라 좋은 기술을 가진 개인학습만 부각되고 있다.

3. 신뢰성은 가장 중요도를 낮게 두어야 한다는 생각이다.

  AI가 발전해온 과정에서 정확도, 성능을 나타내는 수치에만 집중해서 연구하는 방향이만든 문제들이 많다. AI가 미치는 사회적 파급력을 생각할 때 높은 신뢰도에 대한 선망이나 환상은 다른 것들에게 자리를 양보해야 한다. 머리 접합 수술을 하겠다는 과학자처럼 기술의 한계에만 도전하고 윤리의식이나 이후의 일들은 고려하지 않는 극단적인 개발 사례와 다르지 않다.