오리씨네(Orissine) 블로그

 트롤리 딜레마, 인공지능 윤리 토론 수업의 주제로 적절할까?   트롤리 딜레마는 자율주행자가 관심을 받기 이전에도 초등 도덕 수업의 소재가 되고는 했다. 하지만 트롤리 딜레마에 대해 이야기할 때 수업의 목적, 토론을 하는 이유, 무엇을 생각해보려는 것인지 생각해볼 필요가 있다. 공리주의에 대해 말하고 싶다면 연관성이 있을 수 있지만 다른 사람의 죽음을 선택한다는 도덕적으로 문제가 되는 요소, 그리고 자율주행차가 겪게 될 문제라는 유사성만을 보고 수업이나 토론의 소재로 삼기에는 재고해볼 점이 있다. 자칫 공리주의를 이야기 하기보다는 누가 조금 더 냉정한가 정도의 이야기로 끝날 수도 있다. 특히, 인공지능 윤리 토론의 주제로 트롤리 딜레마를 가져왔다면 자율주행차가 누구를 살리는게 나을지 찬반토론을 하기보다는 자율주행차가 가져올 미래의 윤리적 파장에 대해 찾아보고 해결 방법을 토의하는 것이 더 필요하다고 생각한다.   자율주행차는 도입될 것이며 책임의 전가, 죽음을 선택하는 프로그래밍이 주는 사회 인식의 변화 등을 가져올 것이다.  트롤리 딜레마를 현실에서 논하게 된 이 타당하지 못한 상황에 대해 알고 살아나갈 방법을 이야기 해보아야 한다.  독일의 철학자 리하르트 다비트 프레히트는 책"인공지능의 시대, 인생의 의미"에서 자율주행차 윤리적 프로그래밍이 타당한가를 다룬다. 책 인공지능의 시대, 인생의 의미 中 11. 죽음의 알고리즘의 내용 발췌 및 요약  예를 들어 뤼트게와 그 동료들이 출간한  『 AI 와 로봇 공학의 윤리 Ethik in KI und Robotiky 』 에는 이렇게 적혀 있다 .  〈 만일 적용 영역이 일정한 범위로 제한되고 ,  도덕적 결정의 토대를 이루는 정보가 충분히 알려져 있다면 인공지능은 매우 구체적인 사례에서도 도덕적결정을 내릴 수 있을 것이다 .>  이로써 앞서 언급한 모든 심중한 반박에도 불구하고   AI 의  ...

도널드 노먼은 누구?  도널드 노먼(Donald A. Norman, 1935년 12월 25일 ~) 은 UX(User Experience, 사용자경험)이라는 개념을 만들었고, 인간 중심 디자인에 대해 연구해온 디자이너, 교수, 작가, 심리학자이다.   그의 이력이 엄청나다. IDEO이사, 휴렛패커드 이사, 애플 부사장을 역임했고, 캘리포니아 대학교 인지과학 명예교수, 노스웨스턴 대학교 컴퓨터과학과 명예교수, 그리고 닐슨 노먼 그룹의 창립자이기도 하다. 미국 예술과학 학술원 및 국립공학원 회원이다.   유명한 저서로 <도널드 노먼의 디자인 심리학>, <도널드 노먼의 인터랙션 디자인 특강>. <도널드 노먼의 UX 디자인 특강>이 있고, 내가 요즘 읽고 있는 것은 <도널드 노먼의 인터랙션 디자인 특강>이다. 책<도널드 노먼의 인터랙션 디자인 특강>  도널드 노먼은 경력을 봤을 때 나이가 많은 것을 알 수 있었지만 책만 봐서는 현재 나이나 직책과 상관없이 디자이너 다운 세련된 감각과 창의적인 생각이 마치 의욕넘치게 이제 이 일을 시작하는 사람처럼 보이기도 했다. 물론  한 분야에서 대가가 된 사람이 가진 내공이 느껴진다. 군더더기가 없이 내용에 일관성이 있어서 책이 크게 두껍지도 않은 편이다.   책<도널드 노먼의 인터랙션 디자인 특강>인간과 기계의 상호작용에 대해 다루는 책이다. 인터렉션 디자인에 관하여 자신의 흥미로운 일화나 이 사람만이 가볼 수 있는 듯한, 다양한 산업 디자인 관련 컨퍼런스의 내용 그리고 거기서 만난 전문가들과의 이야기를 들려주면서 디자인 원리를 쉽게 말해준다. 책<도널드 노먼의 인터랙션 디자인 특강> 흥미로운 부분 2가지 1. 로봇과의 가상 인터뷰  책의 마지막 부분은 전개의 참신함에 깜짝!놀라는데 기계들의 대표에게 메일을 받았다면서 가상으로 인터뷰를 한 내용이 나온다. 기계와의 몇 번...

제임스 카메론 감독이 생각하는 AGI와 디지털 전체주의의 위협 제임스 카메론 감독이 생각하는 AGI, "진정한 위협은 디지털 전체주의다." 제임스 카메론 감독은 누구? 제임스 카메론은 터미네이터, 아바타, 타이타닉, 에일리언의 감독이다. 24년 9월 말 기사를 찾아보니 인공지능에도 관심이 많아 최근 Stability AI의 이사회의 멤버로 참여했다고 한다. 이 회사는 이제 모르는 사람이 거의 없는 이미지 생성AI, '스테이블디퓨전'으로 유명한 회사이다. AGI를 두고 터미네이터의 "스카이넷" 캐릭터가 많이 회자되는 만큼 제임스 카메론 감독은 AGI 관련 인터뷰를 정말 많이 받았을테고, 실제로 AI의 위험성에 관심이 많다고 한다. 23년 인터뷰에서는 "내가 1984년에 여러분에게 경고했지만, 여러분은 듣지 않았다"고 답변하기도 했다. (참고로 1984년은 영화 '터미네이터'가 개봉된 해) 흥미로운 표현이다. 제프리 힌턴 교수가 한 말이 떠오른다. "연구원들은 정렬 문제를 연구해야 하고 정부는 법안을 마련해야 한다고 말한다. 다만, 아주 불쾌한 일이 일어나기 전까지는 입법이 불가능할 것" 두려워해야 할 것은 터미네이터 영화 장면 같은 종말이 아니라 AI로 인해 '오웰식' 감시 체제가 생기는 것 최근 24년 10월 말 인터뷰에서는 AGI에 대해 AGI 자체는 우리의 거울일 뿐 두렵지 않다고 말하면서 더 두려워해야 할 것은 터미네이터 영화 장면 같은 종말이 아니라 AI로 인해 '오웰식' 감시 체제가 생기는 것이라고 말했다. "AGI는 우리가 선한 만큼 선하고, 우리가 악한 만큼 악할 것"이...

데스봇과 인공지능 윤리 데스봇에 대한 해결방안을 연구한 논문  데스봇은 찬반토론의 주제로 쓰이기도 하지만 이미 구현된 사례도 있을 정도로 삶에 들어오고 있다.  이 인공지능을 사용할지 말지에 대해서는 애도 방식의 차이라 생각되어 데스봇을 사용하는 사람의 뜻을 존중할 필요가 있고 데스봇이 쓰이는 것을 막을 길도 없다고 생각한다.    데스봇에 윤리적 문제가 얽혀있는 것은 찬반토론으로 끝나지 않는다. 사용될 것이고 이로 인해 야기될 문제들에 대해 이야기하고 함께 토의하는 과정이 꼭 필요하다.

   생성형 인공지능 윤리(엔트리 과정) 라이브 코칭  생성형 인공지능 윤리(엔트리 과정)에서 3번째 날은 라이브 코칭이었다. 선생님들 중 과제를 제출하신 분의 엔트리코드, 지도안에 대한 피드백을 하는 시간이었다.  선생님들의 지도안과 코드는 인상적인 것, 간단한 것 그리고 교육적인 것이 많아 함께 나누었고 연수하며 많이 배웠다. 처음에는 2시간 동안 과제를 피드백하는 라이브 코칭에 대해 어떻게 해야 할까 고민이 컸다. 그러다가 과제를 내신 분들 아이디어가 정말 좋은 것들이 많아서 나눌 점만 소개해도 좋겠다는 아이디어가 나왔다. 이런 식의 진행은 처음 해보았는데 모든 사람이 다같이 배우는 것 같다. 시간상 모든 분의 과제를 소개 못하는 점은 난제로 남았으나 모든 분을 다 소개하면 하루로 안되고 그게 더 문제일지도 모른다 .  데드봇  과제, 작품 공유를 하고도 시간이 많이 남게 되므로 우리는 각자 생성형 인공지능과 관련된 더 이야기 해보고 싶은 주제를 가져오기로 했다.   테드 창의 소프트웨어 객체 생애주기는 참 흥미롭지만 주제와 완전히 밀접하지는 않았다. 대신 제이슨 로러라는 프로그래머가 만든 챗봇 커스터마이징 사이트인 프로젝트 디셈버와 그 사이트를 활용해서 죽은 약혼자 챗봇을 만든 조슈아의 이야기를 꺼내기로 했다.    챗봇 사이트를 만든 프로그래머 제이슨 로러의 입장은 기술에 자유로운 편이다. 오히려 조슈아의 일이 알려지고 나서 사이트의 컨셉이 데드봇에 더욱 더 가까워진 것 같다.   (여담 : 더불어 이번에 자료를 찾으면서 제이슨 로러라는 프로그래머가 굉장히 독특한 생각을 가진 인디 게임 제작자라는 것도 알게 되었다. 일화 중에 자식을 성별 구분 없이 키우기 위해 아이가 태어나고 며칠 동안 자식의 성별을 확인 안하고 키웠다거나 냉장고 없이 5~6년 산 이야기 등이 있다. 태어나서 처음 보는 유형의 사람이다.  이 사람이 제작한 게임 중에 한...

네이버 오픈클래스 (생성형 AI 윤리)   지난 6월 말에 2주에 걸쳐서 생성형 AI 윤리 교재 오픈 클래스를 진행하였다. 작년에 개발하여 지난 2월까지 계속 수정을 거듭한 것이 드디어 배포되었다. 과기부의 인공지능 윤리 원칙인 3대 원칙, 10대 요건을 바탕으로 하였으며 인공지능 중에서도 생성형 인공지능을 교재 내용에 넣었다.  네이버 소프트웨어야 놀자에서 "인공지능&데이터"로 접속하여 "생성형 인공지능 윤리1"에서 교재와 PPT 자료를 받을 수 있다. 링크 :  https://www.playsw.or.kr/artificial/textbook/ai_data_web_textbook_ai  교육청에서 개발하는 교재의 경우 교사 대상인 경우가 많다. 네이버 오픈클래스의 수강생들은 330명 정도였는데 대부분 강사이신듯했다. 생성형 AI를 체험하되 윤리적 고민을 넣은 교재 내용에 많은 분들이 공감해주셔서 보람이 컸다.  1주차에는 권쌤과 교수님이 2주차에는 펭귄과 내가 맡은 파트를 하였다. 교재의 의도를 설명할 때 2차시이지만 1시간이 안되는 시간에 필수적인 내용만 전달되므로 미리 연습을 많이 하였다. 오픈클래스를 계기로 더욱 더 교재를 명쾌하게 설명할 수 있게 되었다.  오픈클래스를 준비하면서 더 자세히 알게된 어도비 이미지 생성형 인공지능, Firefly의 연령제한(한국 어도비 및 교육청의 연령제한)  초등학교 생성형 인공지능 수업과 관련해서 필수 고민인 연령 제한!  1주차에 오픈클래스 패들렛에 질문을 받았을 때, 네이버 클로바X, 어도비 파이어플라이와 관련한 생성형 인공지능의 연령제한에 대해 질문이 있었다. 2주차를 맡은 덕에 약관 등을 다시 찾아볼 겨를이 있었는데 교재를 쓸 때와 다르게 약관이 한 번 더 바뀐 것을 알게 되었다.   또한 새롭게 알게 된 것은 미국은 어도비 파이어 플라이, 즉 어도비의 이미지 생성 인공지능을 초등학생도 사용 가능할 수 있다...

  도서관에서 발견한 MIT Technology Review 5,6월호, 흥미로운 내용이 많아서 단번에 거의 다 읽고 왔다. 1. 소셜미디어와 AI 기업과 기술 지난 10년간의 소셜미디어의 무분별한 개발이 AI 기업과 기술에 주는 시사점 중 하나를 메모 한다. 2. EU의 세계 최초 AI 규제법   1) 올 해 말부터 국민의 기본권에 "큰 위험을 초래하는 AI 사용 사례"와 "용납할 수 없는 위험을 초래할 수 있다고 판단되는 일부 사용 사례"가 금지된다. 법 집행 기관을 위해 기술이 사용되는 예외들도 있는데 디지털 인권 단체 Access Now 등의 단체는 안면인식과 같은 기술들을 전면 금지 않았으니 AI 규제법은 '인권에 대한 실패'라고 했단다.  인상적인 것은 기업, 학교는 사람의 감정을 인식한다고 주장하는 소프트웨어를 사용할 수 없지만, 의료나 안전 상의 이유로는 사용이 가능하다.   덴마크의 학생 자살 예방 해결책을 위한 플랫폼들의 사례가 생각난다. 저 규제에서 허용될 수 있는 것이다. AI 교과사 도입 등 주로 학습 측면에서 AI 도입에 속력을 내는 우리나라 교육 방향도 감정인식과 관련된 연구를 하는 플랫폼이 있겠지?  2) 기술 기업은 AI 생성 콘텐츠에 라벨을 부착해야 하고 사용자가 챗봇이나 기타 AI 시스템과 상호작용할 때 사용자에게 알려야 한다.  그러나 이점에 대해서는 필자도 한계점을 지적한다. 그리고 이 매거진의 다른 챕터에서도 소셜미디어 속 의도된 챗봇들의 대화들이 양산되면 마치 큰 흐름인양 착각하게 만드는 것도 막을 수 없다고 한다. 쉬운 일은 아닌 셈이다.  3) 유럽 AI 사무소를 설립할 것이고 관련 인력을 채용 중이다. EU시민들은 AI 시스템으로 피해를 입었다고 의심되는 경우 불만을 제기 할 수 있다. 그리고 AI시스템이 내린 결정에 대해 설명을 들을 수 있다.    3)번이 중요하고 실효성도 있다고 생각하였다. 이 매거진 다른 와이파...

# 인공지능 윤리 교육 중 "편견" # 이미지 생성 AI, 기업의 노력 사례 (Runway) # 네이버 소프트웨어야 놀자 교재 배포 관련한 오픈 클래스를 할 때에 교재 설명 외에도 좋은 자료를 제공하고 싶어서 공부하고 있다. How AI Image Generators Make Bias Worse (https://www.youtube.com/watch?v=L2sQRrf1Cd8) 영상 도입을 미드저니로 생성한 더빙으로 시작하며  바비이미지 생성에서 나왔던 차별 사례가 나온다. 실제 직업에서의 성비보다 더 과장되게 편향이 나오는 경우가 있다고 한다. 이를 Representational Harms라고 한다. 그런데 이를 개선하여 비교적 정확하게 사실을 반영한다면 과장이 매우 적어도 문제가 있다는 점을 지적한다.  미국 대통령, 수감자 비율을 실제로 남성이 매우 높은데  사실을 그대로 반영할 것인가,  완전히 랜덤이 옳은 것은 아닐까?  Bias in AI and How to Fix It | Runway (https://www.youtube.com/watch?v=5zLxoiBdG2U) Runway는 기업의 노력 사례라고 볼 수 있다. 인종, 성별 등의 데이터를 다양하게 만들어서 이미지 생성AI 모델을 다시 훈련하는 방법하는 작업에 착수했다고 한다.  두 영상 모두 댓글의 갑론을박을 보는 재미도 있다.

(동영상 : Mustafa Suleyman & Yuval Noah Harari -FULL DEBATE- What does the AI revolution mean for our future?)  유발 하라리의 의견에 동의하면서도 무력감이 느껴진다.   무스타파의 말처럼 기술이 그려주는 긍정적인 혜택이 주어질지라도 유발 하라리가 걱정하는 것들이 모두 수반되는 혜택일 듯하다.  댓글에서 누군가 말했듯 유발 하라리만이 인공지능 발전으로 인한 경제적 혼란에 대해 현실적으로 인식하는 유일한 사람으로 보인다. 부유한 사람들은 이 점에 대해 공감이나 우려를 덜한다는 것이다. AI 개발을 선도하고 그로 인해 큰 부를 차지한 사람들이 실제로 유발 하라리가 지적하는 문제에 대해 진지한 고민을 하기 어렵다.  이 대화에서는 5년 뒤를 AI 발전의 중요 기점으로 보고 있다.   5년 뒤에 이 영상을 다시 보러 오겠다는 댓글에 그 때는 AI가 이 영상을 지웠을 거라는 농담이 달려있다.  유발 하라리는 5년 뒤 AI 발전이 이루어졌을 때에 대한 질문에 대해 결정권을 넘겨주면서 역사가 끝나는 것은 아니지만 인류의 역사는 끝난다고 표현한다.  "인공지능 개발에 하는 투자가 너무 많으며 우리 자신의 마음도 개발할 수 있는 거대한 범위가 있다. 아직 인류는 우리의 잠재력을 완전히 보지 못했다. 하지만 인공지능에 투자하는 시간과 달러만큼 우리 자신의 의식과 정신을 발전 시키기 위해 투자하면 좋겠지만 이런 투자는 볼 수 없다."라는 말이 인상적이다. 직업에 대해  실업과 새로운 직업의 탄생에 대해서는 유발 하라리가 상세한 지적을 하였다. 우리는 흔히 없어지는 직업만큼 새로운 직업도 생겨날 것이고 적응의 기회가 있을 것이라 생각한다. 그러나 유발 하라리는 부의 분배가 불공평할 것을 지적한다. 각 나라에서 실업, 새 직업의 탄생이 고르게 일어나지 않을 것이라는 것이다. 캘리포니아, 미국, 중국 등에서...

알렉스 넷, 딥러닝과 GPU   2012년 이미지 넷의 ILSVRC(ImageNet Large-Scale Visual Recognition Challenge), 쉽게 말해 이미지 분류 인공지능 올림픽에 알렉스 넷이 경이적인 기록으로 우승하게 된다.    알렉스 넷의 성능이 다른 모델들에 비해 매우 뛰어났으며 알렉스 넷 연구에서 핵심은 "컴퓨터 비전 모델의 깊이가 뛰어난 성능을 위해 필수적이며 (인간이 배우는 것 같이 인공지능을 학습시키자는 딥러닝이 효과적이라는 것), 딥러닝을 위해서는 GPU를 활용하면 된다"였다.  전 세계 사람들에게 "중력이 있어 물체가 땅에 떨어진다." 만큼 익숙해진 "딥러닝과 GPU"의 관계가 이 논문에서 나왔다.  그리고 제프리 힌턴의 경고  제프리 힌턴은 구글의 석학 연구원을 겸임하다가 2023년에 인공지능의 위험성을 경고하며 퇴사하였다. 그는 AI를 혁신시킨 "딥러닝"기법의 개척자이며 그 발견이 지금의 생성형 AI 챗봇들을 탄생하게 만든 셈인데 이제는 위험성에 대해 말하며,  "디지털 지능이 생물학적 지능을 대체할 것이 거의 확실하다." 라고 말한다. 23년의 유튜브 영상에 이어 24년 2월 22일 기사와 3월 기사를 보며 그의 주장을 정리하면 다음과 같다.  제프리 힌튼의 주장  " 점점 강력해지는 AI모델들이 집단 지성으로 작용하며 서로 학습한 내용을 공유할 수 있고 이는 인간보다 큰 이점을 가진 것이다. 따라서 인간보다 더 나은 지능일 수 있다고 생각한다."  인공지능 모델 중 하나가 학습하면 배운 내용을 거의 즉시 다른 모델과 공유할 수 있다.   일종의 하이브 마인드, 집단지성이다. 인공지능이 위험하다는 제프리 힌턴의 주장 2가지  1. 나쁜 사람들이 나쁜 목적으로 AI 사용하는 것  예를 들어 대규모 허위 정보 유포, 생물 테러, 사이버 전쟁, 킬러 로봇을 생각할 수 있고 특히 메타가 Ll...

AI 춘추 전국 시대  OPEN AI 출신이 만든 앤트로픽의 클로드3에 마소랑 구글이 투자했고 구글보다 나을 수 있다고 한다. 무엇이 독점하게 될지 몰라 서로 투자하는 것일까? 춘추 전국 시대이다. 지금 당장은 사용자 입장에서 흥미로운 것이 가득하고 무료도 많지만 곧 독점이 시작되면 상황이 달라진다는 것을 모두 알고 있다. 우리는 다함께 구독 경제로 독점의 무서움에 대해 예행 연습을 하였는데 개인 입장에서는 특별히 선택의 여지가 없어 보인다. 적어도 3~4개의 플랫폼이 공존할 수 있을까 궁금하기도 하다. LAM 플랫폼의 독점에 대한 두려움  최근 흥미롭게 살펴본 LAM 이 삶에 줄 변화를 생각해보고 있다 . ACT-1 과 같은 액션 트랜스포머에 의해 구동되는 자연어 인터페이스는 컴퓨터 / 전화 / 인터넷 연결 장치 앞에서 사람들이 할 수 있는 것을 바꿔 놓을 것이라고 말한다 . 1)~5) 는 ACT-1 사이트에 있던 내용들을 정리한 것이다 .   예를 들면 1) 컴퓨터와의 상호작용은 GUI 가 아닌 자연어로 대부분 이루어지게 된다 . 2) 오늘날의 사용자 인터페이스는 조금 지나면 유선 전화들처럼 보일 것이다 . 3) 컴퓨터를 사용할 때 특별한 교육이 필요하지 않으며 초보자라도 자신의 아이디어를 언어로 표현할 수 있는 사람은 관련 전문 지식이 없어도 구현이 가능할 것이다 . 모든 사람이 고급 기능에 접근하게 될 것이다 . 4) 소프트웨어는 드롭다운 메뉴의 길이에 제약을 받지 않게 되면서 더욱 강력해질 것이다 . 5) 이제 문서 , 메뉴얼 , FAQ 를 읽는 것은 사람이 아닌 모델이다 . 코딩 언어를 배울 필요가 없다 .  이중에서 1) 3) 에 생각해 볼거리가 있어 보인다 .  다만 3) 은 모든 사람이 고급 기능을 쓰면서 악용이 일어나는 등의 문제에 대해 책임 소재 , 처벌 등을 분분하게 따질 수 있지만 1) 과 관련해서는 그야말로 교묘한 문제가 생기지 않을까 고민이 된다 .  자연어로 상호작용하...

(23년 6월 10에 쓴 글)   Fawkes, Glaze라는 두 가지 프로젝트  Sand Lab 과학자들의 프로젝트이다. Fawkes는 온라인에 업로드 된 사람들의 얼굴 사진이 AI의 학습데이터로 수집되어 활용되는 것으로부터 보호하기 위해 얼굴 사진을 바꿔주는 것이다. 물론 우리 인간이 보기에는 이미지가 전혀 변하지 않은 것으로 보인다. '클로킹'이라고 하는 과정을 통해 우리 인간의 눈에는 보이지 않는 픽셀 수준에서 미세하게 그림을 변경하는 것이다. AI가 나의 클로킹 된 사진을 수집해 열심히 학습을 했다고 하더라도 나의 클로킹 안 된 사진을 보았을 때 나를 인식하지 못한다고 한다.   위의 기술 출시 후 많은 예술가들이 나의 작품도 보호해줄 수 없겠느냐는 문의가 많이 들어왔다고 하는데 사람의 눈, 코, 입처럼 명확한 기준이 있는 얼굴 사진과 달리 작품은 꽤 난해한 부분이 많았고 따라서 많은 시간과 노력이 필요했다고 한다.   그렇게 탄생한 기술이 Glaze로 인터넷에 자신의 작품을 올리기 전에 Glaze 프로그램을 이용해서 작품을 AI가 학습 데이터로 쓸 수 없게 만드는 것이다. (정확히는 위의 Fawkes처럼 AI가 학습데이터로는 쓰지만 다른 그림, 스타일로 인식되게 하는 것이다.)  Glaze는 우리나라 말로 "유약을 바르다"이니 얼마나 이름을 잘 지었는지 감탄이 나온다. Glaze 프로그램을 통과한, 그야말로 '유약을 바른 작품'은 우리가 보기에는 큰 차이가 없어 보인다. 하지만 작품은 보호된다. 물론 연구진은 Glaze 사이트에서 앞으로 이 기술을 넘어서는 AI가 또 나올 수 있다고 말한다. 하지만 지금까지는 최선의 기술이며 우리가 아는 한, 아티스트가 자신의 작품을 온라인에 올리면서 자신의 스타일을 미리 보호할 수 있는 유일한 도구라고 말하고 있다. 이렇게 말할 수 있는 모습에서 자신감이 엿보인다. 비영리적 목적의 예술가들을 위한 프로그램이라는 시도도 멋지고 Future Tool...

11.03.  2~3주 정도 작업한 최종 기획안을 가지고 안성진 교수님,  네이버 커넥트재단 SW교육팀 유경선, 김지각 팀장 님 2분과 중등팀들, 초등팀들과 회의 1) 교재 분석 과정기록  가) 3대 기준 10대 요건에 대한 개념 을 잡기 위해서 국내 시도 교육청, 과기부 교재를 훑어보는 것이 도움이 되었다.  나) 수업활동에 대한 아이디어는 MIT Media lab과 ISTE_AI 교육과정 자료가 참 좋다. Code.org도 그렇고 미국의 교재를 언제나 즐겨 찾게 된다. 활동이 쉽고 간결하면서도 핵심을 놓치지 않고 명확하다.   2) 피드백1  소프트웨어야 놀자에 맞게 더 놀이 중심, 교재가 아니라 캠프 느낌 3) 흥미롭고 배울 점들 기록  네이버 팀장님의 토론 주제 제시가 너무 번뜩이는 것이 많았다. 펭귄의 활동 제안도 팀장님의 제시에 딱 맞아서 좋다. 사례는 적게 토론과 놀이 중심은 정말 공감되는 방향이다. 백과사전이 되면 안된다고 생각한다. 우리가 고생한 만큼 흐름은 괜찮은 것 같다. 그리고 권선생님의 발표도 내 파트를 명확히 이해하시고 설명해주셔서 멋지고 고마웠다. 중등은 NPC 사례가 흥미로운데 더 알아봐야겠다. 그리고 교수님이 소개해주신 맛집도 가볼 생각이다.ㅎㅎ 11.04.  학습교구재 활동지, 활동지와 PPT의 삽화 마감이 빠듯하여 우선 작업  네이버 1784 활동지를 보며 감을 잡기로 했다. 1) 교구재 : [1~6학년] 모두 학습지는 없는 것 같다. 좋다. 미니북만 연필을 쓰는 듯하다. [1~2학년]   가. 1~2차시 :이미지 학습용 과일 카드(라임, 초록사과, 빨간사과)   나. 3~4차시 : 붙임딱지와 붙임딱지를 붙이는 활동지      (인공지능의 긍정 / 부정 사례, 다 붙이면 O,X모양이 되는 듯)  다. 5~6차시 : 8칸 미니북 (나만의 인공지능 2가지 상상해서 그리고 ...

유튜브의 AI 커버곡 유행  3년 전 바람대로 내가 좋아하는 가수의 AI커버곡을 쉽게 듣는 때가 왔고 고인의 목소리로 요즘 노래를 듣기도 쉬워졌다. https://orissine.blogspot.com/2020/03/blog-post_22.html  나도 프레디 머큐리의 AI cover 특히 국내 음악을 부른 것을 찾아서 듣곤 한다. AI cover의 매력이 빛을 더욱 발하는 때가 언어가 다르거나 그 사람의 스타일이 아닌 노래를 부를 때인 것 같다. AI cover가 아니고서는 듣기 힘들기 때문이다.  AI cover와 밀접한 법은 로열티, 저작권이 아닌 퍼블리시티권  유튜브에서 AI cover가 빠르게 자리잡는 과정을 보니 새로운 크리에이터 활동 분야가 생긴 것도 보인다. 빅뱅의 AI cover곡을 한땀한땀 만드는 유튜버가 유명하다기에 노래를 들어보니 발음이나 창법을 다듬은 노력이 대단하다. AI cover곡을 간단하게 만들 수는 있지만 완성도를 위해서 그 유튜버는 많은 시간을 들여서 직접 들어보고 수정하는 과정을 거친다고 한다.  그 유튜버의 최근 영상을 보니 중국의 한 업체가 그 유튜버의 빅뱅 AI 커버곡을 저작권 등록했다고 한다. 고생한 곡이 그렇게 된다면 의욕이 크게 꺾일 것 같다.  한편으로는 그 유튜버가 저작권 등록을 했다면 빅뱅 멤버들의 목소리는 아무 제재 없이 수익을 내는 데에 쓰여도 되었을까하는 생각이 들었다.   이를 정확히 짚어주는 법에 대해 들어본 적이 없었는데 펭귄이 알려주었다.  이런 AI cover와 밀접한 법이"퍼블리시티권"이라고 한다.     퍼블리시티권과 인격권, 초상권의 차이   퍼블리시티권과 인격권, 초상권의 가장 큰 차이점은 퍼블리시티권이 상업적, 경제적인 이용에 대한 권리라는 점이다. 즉, 재산권에 가깝다.  한국도 22년 12월 기사에 법제화를 추진한다고 나와있다. 미국은 1903년에 뉴욕 주에서 퍼블리시...

분석한 교재 : AI 원리로 배우는 AI윤리 (경기도 교육청) 1. 목차 구성 분석 1) 서울시교육청, 과기정통부는 10대 윤리기준을 묶은 방식이 다르지만 둘 다 10대 윤리기준을 주제로 차시를 구성하였다. 반면, 경기도 교육청은 위와 같이 차시별로 10대 윤리 기준이 중복되어 들어가기도 한다. 10대 윤리 기준을 골고루 담되,주제로 쓰지는 않았다. 그리고 10대 윤리기준중 하나인 연대성은 넣지 않았다. 인공지능과 관련된 개발과정이나 사례가 무 자르듯 윤리 기준을 적용하기 어렵기 때문에 사례를 중심으로 구성한 듯 하다.  물론 서울시 교육청, 과기정통부의 방식은 10대 윤리 기준을 더 강조하여 전달할 수 있을 것이다. 한 차시 마다 하나의 관점으로 사례를 들여다 보기 때문이다. 

10대 핵심요건 1. 인권보장 2. 프라이버시 보호 * 인공지능은 개인정보를 먹고 성장한다는 사설 https://m.hankookilbo.com/News/Read/A2022020309380002717 3. 다양성 존중  * 생성 AI가 쓴 글에서 교수의 모습은 주로 남자, 학생은 주로 여자, 신발닦는 직업은 주로 흑인, 증권사 직원은 백인  * AIGDK 교재에서는 아이들에게 먼저 종이를 주고 교사를 떠올려 그려보라고 한다. 그리고 담긴 편견을 이야기 해 본다.  * AI가 학습해야 할 덕목으로 다양성과 포용성을 말하고 있다. (2021 유네스코가 발표한 윤리 권고문에 포함되는 내용)  * 현실이 반영된다. 사례로 나온 것은 전체 과학 기술 분야의 여성 비율이 낮은 것, 특히 AI 전문가 중 여성의 비율이 적은 것.   * 영화 속 직업 묘사도 마찬가지   ▶  지난 번 컨설팅 연수에서 Canva의 생성 AI로 직업 관련 이미지를 만들었을 때 초등 교사는 대부분 10명 중 8~9명은 여자였다. 이점을 소개하면서 데이터를 확인해보니 초등 교육에서 여성 편중은 전세계적이고 미국은 우리나라보다 더 강하다.   ▶ 생성AI를 5~6학년 수업시간 2차시 정도에 어떻게 다룰 것인가 고민이 크다. 데이터를 일부 살펴보며 다양성과 편향을 이야기하는 정도가 현실적이라는 고민을 하고 있다. 새로운 아이디어가 번뜩 떠오를 때까지 좀 더 찾아봐야 겠다. '생성 AI가 차별하네?'로 끝나지 않고 왜를 집중해야 할 것이니 여기서는 3. 다양성은 7. 데이터 관리와 묶이기 좋은 듯하다. '데이터가 편향이 되어있을 수 있었네?'까지 다루어야 겠다만 엔트리 블록 코딩을 넣어야 하니 또 하나 더 고민이 필요하다.  ☆ 관련 링크 https://www.wbridge.or.kr/platform/careersport/info/selectTrendDetail.do?ntt_sn=465 4. 침해 금지 5....

 교재를 분석하여 3대 기본 원칙과 10대 핵심요건을 기준으로 활동, 키워드 분류해보고 있다. 분석한 교재 : KISDI, '인공지능 윤리교육 교재' 초등(과기정통부), AI 윤리 들어가기(경기도 교육청),   서울형 인공지능(서울시 교육청) 1. 인간의 존엄성 지키기       1) 인권 보장 : 채용프로그램의 성차별 사례      2) 프라이버시 보호 : 개인정보, CCTV, 얼굴인식, 사생활      3) 다양성 존중 : 챗봇의 차별 대화, 편견, 차별      4) 침해 금지 : 의도치 않은 위험, 개발목적과 위험요소, 이미지 합성 기술(딥페이크), 군사로봇, 물류 로봇의 사고, 자율 주행 드론의 사고,

 성균관 대학교 안성진 교수님께서 좋은 기회를 주셔서 네이버 커넥트 재단의 소프트웨어야 놀자 교재를 개발하게 되었다. 최현수, 권정민 선생님과도 함께 개발하게 되었다.  개발된 교재는 네이버 자체 캠프뿐만 아니라 디지털 새싹 캠프 교재로도 쓰일 수 있다고 한다. 첫번째 작업으로 기존의 훌륭한 교재들을 분석해오기로 하였다. 양은 많지만 재밌다. 1. KISDI,  초 · 중 · 고 학교 현장에서 활용 가능한   ' 인공지능 윤리교육 교재 ' 초등 분석  1. 10대 원칙을 어떻게 묶었는가        가. 인간의 존엄성 지키기 : 인권보장, 프라이버시 보호, 다양성 존중, 침해 금지      나. 목적에 맞게 기술 사용하기 : 데이터 관리, 책임성과 투명성, 안전성      다. 함께 좋은 세상 만들기 : 공공성, 연대성 * 요소는 나누어있지만 사례나 수업 과정에서는 묶여있는 요소들이 있는데 이 교재도 그에 맞게 묶었다. 책임성과 투명성은 함께 묶고 있다.   2. 용어를 어떻게 설명했는가 :       소단원명도 위와 같이 풀어냈고, 용어 뜻 자체를 쉽게 풀어낸 부분이 많다. 그리고 사례가 정말 다양하며 저 요소에 맞게 사례를 분류했다.    3. 도입은 어떻게 :       중단원은 율리라는 캐릭터를 두어 삽화로 도입하며 학습목표를 제시한다. (교재 개발을 위해 떠오른 아이디어  : 그림이 더 백과사전식으로 월리를 찾아라처럼 양면성과 양면이 아닌 토론이 필요한 주제가 가득한 그림이면 더 오래 머물며 해당 주제에 대해 이야기를 하고 넘어가게 될 것 같다.)    각 차시는 [1컷 만화, 인공지능과 친해져요 - 우리 주변의 인공지능을 알아봅시다]로 시작하여 [인공지능이 궁금해요 - 관련된 인...