오리씨네(Orissine) 블로그

제임스 카메론 감독이 생각하는 AGI와 디지털 전체주의의 위협 제임스 카메론 감독이 생각하는 AGI, "진정한 위협은 디지털 전체주의다." 제임스 카메론 감독은 누구? 제임스 카메론은 터미네이터, 아바타, 타이타닉, 에일리언의 감독이다. 24년 9월 말 기사를 찾아보니 인공지능에도 관심이 많아 최근 Stability AI의 이사회의 멤버로 참여했다고 한다. 이 회사는 이제 모르는 사람이 거의 없는 이미지 생성AI, '스테이블디퓨전'으로 유명한 회사이다. AGI를 두고 터미네이터의 "스카이넷" 캐릭터가 많이 회자되는 만큼 제임스 카메론 감독은 AGI 관련 인터뷰를 정말 많이 받았을테고, 실제로 AI의 위험성에 관심이 많다고 한다. 23년 인터뷰에서는 "내가 1984년에 여러분에게 경고했지만, 여러분은 듣지 않았다"고 답변하기도 했다. (참고로 1984년은 영화 '터미네이터'가 개봉된 해) 흥미로운 표현이다. 제프리 힌턴 교수가 한 말이 떠오른다. "연구원들은 정렬 문제를 연구해야 하고 정부는 법안을 마련해야 한다고 말한다. 다만, 아주 불쾌한 일이 일어나기 전까지는 입법이 불가능할 것" 두려워해야 할 것은 터미네이터 영화 장면 같은 종말이 아니라 AI로 인해 '오웰식' 감시 체제가 생기는 것 최근 24년 10월 말 인터뷰에서는 AGI에 대해 AGI 자체는 우리의 거울일 뿐 두렵지 않다고 말하면서 더 두려워해야 할 것은 터미네이터 영화 장면 같은 종말이 아니라 AI로 인해 '오웰식' 감시 체제가 생기는 것이라고 말했다. "AGI는 우리가 선한 만큼 선하고, 우리가 악한 만큼 악할 것"이

데스봇과 인공지능 윤리 데스봇에 대한 해결방안을 연구한 논문  데스봇은 찬반토론의 주제로 쓰이기도 하지만 이미 구현된 사례도 있을 정도로 삶에 들어오고 있다.  이 인공지능을 사용할지 말지에 대해서는 애도 방식의 차이라 생각되어 데스봇을 사용하는 사람의 뜻을 존중할 필요가 있고 데스봇이 쓰이는 것을 막을 길도 없다고 생각한다.    데스봇에 윤리적 문제가 얽혀있는 것은 찬반토론으로 끝나지 않는다. 사용될 것이고 이로 인해 야기될 문제들에 대해 이야기하고 함께 토의하는 과정이 꼭 필요하다.

Perplexity AI 체험기   Perplexity가 현재 SK Telecom회원은 1년 Pro무료 입니다.덕분에 퍼플렉시티를 체험해보고 있습니다. Pro 요금제를 1년이나 무료로 쓰게 해준다니 주변 SK텔레콤 쓰는 분들이 모두들 시도해보더라고요. 이 이벤트로 챗지피티나 클로드, 제미나이에 비해 덜 유명한 듯한 퍼플렉시티의 인지도에 변화가 클 것 같습니다.(SK텔레콤 사용자는 Tmembership어플을 켜면 바로 메인에 이 행사 배너가 뜹니다.)  Perplexity AI 써보고 느낀 ChatGPT나 Claude 와 다른 점   1. 발견하기 기능 : 대화형 챗봇만이 아니라 "발견하기"라고 하여 저널, 소식, 정보, 뉴스 등을 제공하는 기능이 있습니다. 새 정보를 접하게 되니 퍼플렉시티에 더 머무르게 되기도 하는데 더 본격적으로 플랫폼의 역할을 하려는 시도가 엿보인다고 생각했습니다.  2. 스레드 그룹화 및 공유 기능 : 그리고 내가 질문한 것들이 "도서관(Libarary)"에 기록되는데 여기 모인 생각의 흐름, 가닥인 "스레드(Thread)"는 정리하고 그룹화해서 다른 사람들에게 공유도 가능합니다. "발견하기"의 저널들도 그렇고 개인적으로 챗지피티, 클로드는 챗봇과 내가 단둘이 대화를 하는 공간이라는 느낌을 받는다면 퍼플렉시티는 사람과 사람 간의 연결, 나와 다른 분야의 소식과의 연결도 일어날 수 있는 공간이 있다는 느낌입니다.  3. 후속 질문 예시를 제시하는 기능 : 내 질문에 이어 가능한 후속 질문을 제시해주어 꼬리에 꼬리를 무는 대화가 가능해서 한 주제에 대해 깊이 연구하게 되는 재미가 있습니다. 미처 생각하지 못한 좋은 질문이 제시되어서 협업의 느낌도 납니다.  4. 답변생성과정이 상세하게 제시되는 기능 : Perplextiy Pro가 답변을 얻기 위한 과정을 정리하고 이에 따라 정보를 검색하여 답변을 정리하는 일련의 과정이 상세히 제시됩니다. 그리고 마지막에 출처 등도

   생성형 인공지능 윤리(엔트리 과정) 라이브 코칭  생성형 인공지능 윤리(엔트리 과정)에서 3번째 날은 라이브 코칭이었다. 선생님들 중 과제를 제출하신 분의 엔트리코드, 지도안에 대한 피드백을 하는 시간이었다.  선생님들의 지도안과 코드는 인상적인 것, 간단한 것 그리고 교육적인 것이 많아 함께 나누었고 연수하며 많이 배웠다. 처음에는 2시간 동안 과제를 피드백하는 라이브 코칭에 대해 어떻게 해야 할까 고민이 컸다. 그러다가 과제를 내신 분들 아이디어가 정말 좋은 것들이 많아서 나눌 점만 소개해도 좋겠다는 아이디어가 나왔다. 이런 식의 진행은 처음 해보았는데 모든 사람이 다같이 배우는 것 같다. 시간상 모든 분의 과제를 소개 못하는 점은 난제로 남았으나 모든 분을 다 소개하면 하루로 안되고 그게 더 문제일지도 모른다 .  데드봇  과제, 작품 공유를 하고도 시간이 많이 남게 되므로 우리는 각자 생성형 인공지능과 관련된 더 이야기 해보고 싶은 주제를 가져오기로 했다.   테드 창의 소프트웨어 객체 생애주기는 참 흥미롭지만 주제와 완전히 밀접하지는 않았다. 대신 제이슨 로러라는 프로그래머가 만든 챗봇 커스터마이징 사이트인 프로젝트 디셈버와 그 사이트를 활용해서 죽은 약혼자 챗봇을 만든 조슈아의 이야기를 꺼내기로 했다.    챗봇 사이트를 만든 프로그래머 제이슨 로러의 입장은 기술에 자유로운 편이다. 오히려 조슈아의 일이 알려지고 나서 사이트의 컨셉이 데드봇에 더욱 더 가까워진 것 같다.   (여담 : 더불어 이번에 자료를 찾으면서 제이슨 로러라는 프로그래머가 굉장히 독특한 생각을 가진 인디 게임 제작자라는 것도 알게 되었다. 일화 중에 자식을 성별 구분 없이 키우기 위해 아이가 태어나고 며칠 동안 자식의 성별을 확인 안하고 키웠다거나 냉장고 없이 5~6년 산 이야기 등이 있다. 태어나서 처음 보는 유형의 사람이다.  이 사람이 제작한 게임 중에 한 시간이 60년 인생이 되는 컨셉의 게임이 있는데 독특하다. 플레이어들이 가족이 되는데 먼저 접속한 플레이어가 엄마

왜 유명하지 않은가 의문인 아두이노 시뮬레이터 사이트, WOKWI   아두이노 우노, 아두이노 메가, 아두이노 나노, ESP32, STM32, Pi Pico 등의 회로를 완성하고 코드를 입력하여 시뮬레이션을 해볼 수 있는 WOKWI라는 사이트가 있다.   꽤 훌륭하고 간편한데도 불구하고 덜 알려져 있는가 궁금할 정도이다. 물론! 다들 아는데 내가 몰랐을 수 있다.     포스팅을 하게 만들 정도로 강력한 장점이 있다. 로그인이 필요없다는 것이다. WOKWI 장점 1 : 팅커캐드와 달리 로그인을 하지 않아도 된다.   WOKWI 장점 2 :  로그인 없이 다른 사람들이 공유한 시뮬레이션 프로젝트를 활용하여 코드만 직접 바꾸어 볼 수 있어서 회로 연결이 어려운 경우도 프로젝트, 수업 등에  활용할 수 있다.   WOKWI 장점 3 : 로그인 없이 회로도, 코드를 Share버튼으로 공유할 수 있다. (Share하면 URL을 공유할 수 있다.)     WOKWI의 장점 1,2,3 덕에 초급자, 아두이노를 처음 배우는 학생과 활동할 때에 매우 편리했다. WOKWI에 공유되어 있는 작품들 중에 하나를 활용하여 코드만 바꾸어보는 활동을 하였다.   또한 교사가 이미 완성한 회로도, 코드의 주소를 공유하여 작품을 변형해보는 활동도 할 수 있었다.    아두이노 회로를 구성해보고 코드를 넣어 실행해보는 과정이 로그인 없이 패들렛에 프로젝트 URL 링크를 걸어두는 것만으로 가능하다. 수업하는 입장에서 로그인 없이 프로젝트를 공유하고 활동할 수 있다는 것이 마음에 든다.

네이버 오픈클래스 (생성형 AI 윤리)   지난 6월 말에 2주에 걸쳐서 생성형 AI 윤리 교재 오픈 클래스를 진행하였다. 작년에 개발하여 지난 2월까지 계속 수정을 거듭한 것이 드디어 배포되었다. 과기부의 인공지능 윤리 원칙인 3대 원칙, 10대 요건을 바탕으로 하였으며 인공지능 중에서도 생성형 인공지능을 교재 내용에 넣었다.  네이버 소프트웨어야 놀자에서 "인공지능&데이터"로 접속하여 "생성형 인공지능 윤리1"에서 교재와 PPT 자료를 받을 수 있다. 링크 :  https://www.playsw.or.kr/artificial/textbook/ai_data_web_textbook_ai  교육청에서 개발하는 교재의 경우 교사 대상인 경우가 많다. 네이버 오픈클래스의 수강생들은 330명 정도였는데 대부분 강사이신듯했다. 생성형 AI를 체험하되 윤리적 고민을 넣은 교재 내용에 많은 분들이 공감해주셔서 보람이 컸다.  1주차에는 권쌤과 교수님이 2주차에는 펭귄과 내가 맡은 파트를 하였다. 교재의 의도를 설명할 때 2차시이지만 1시간이 안되는 시간에 필수적인 내용만 전달되므로 미리 연습을 많이 하였다. 오픈클래스를 계기로 더욱 더 교재를 명쾌하게 설명할 수 있게 되었다.  오픈클래스를 준비하면서 더 자세히 알게된 어도비 이미지 생성형 인공지능, Firefly의 연령제한(한국 어도비 및 교육청의 연령제한)  초등학교 생성형 인공지능 수업과 관련해서 필수 고민인 연령 제한!  1주차에 오픈클래스 패들렛에 질문을 받았을 때, 네이버 클로바X, 어도비 파이어플라이와 관련한 생성형 인공지능의 연령제한에 대해 질문이 있었다. 2주차를 맡은 덕에 약관 등을 다시 찾아볼 겨를이 있었는데 교재를 쓸 때와 다르게 약관이 한 번 더 바뀐 것을 알게 되었다.   또한 새롭게 알게 된 것은 미국은 어도비 파이어 플라이, 즉 어도비의 이미지 생성 인공지능을 초등학생도 사용 가능할 수 있다. 연령 제한이 없다. 그러나 한국 어도비는 13세 연령 제한

  도서관에서 발견한 MIT Technology Review 5,6월호, 흥미로운 내용이 많아서 단번에 거의 다 읽고 왔다. 1. 소셜미디어와 AI 기업과 기술 지난 10년간의 소셜미디어의 무분별한 개발이 AI 기업과 기술에 주는 시사점 중 하나를 메모 한다. 2. EU의 세계 최초 AI 규제법   1) 올 해 말부터 국민의 기본권에 "큰 위험을 초래하는 AI 사용 사례"와 "용납할 수 없는 위험을 초래할 수 있다고 판단되는 일부 사용 사례"가 금지된다. 법 집행 기관을 위해 기술이 사용되는 예외들도 있는데 디지털 인권 단체 Access Now 등의 단체는 안면인식과 같은 기술들을 전면 금지 않았으니 AI 규제법은 '인권에 대한 실패'라고 했단다.  인상적인 것은 기업, 학교는 사람의 감정을 인식한다고 주장하는 소프트웨어를 사용할 수 없지만, 의료나 안전 상의 이유로는 사용이 가능하다.   덴마크의 학생 자살 예방 해결책을 위한 플랫폼들의 사례가 생각난다. 저 규제에서 허용될 수 있는 것이다. AI 교과사 도입 등 주로 학습 측면에서 AI 도입에 속력을 내는 우리나라 교육 방향도 감정인식과 관련된 연구를 하는 플랫폼이 있겠지?  2) 기술 기업은 AI 생성 콘텐츠에 라벨을 부착해야 하고 사용자가 챗봇이나 기타 AI 시스템과 상호작용할 때 사용자에게 알려야 한다.  그러나 이점에 대해서는 필자도 한계점을 지적한다. 그리고 이 매거진의 다른 챕터에서도 소셜미디어 속 의도된 챗봇들의 대화들이 양산되면 마치 큰 흐름인양 착각하게 만드는 것도 막을 수 없다고 한다. 쉬운 일은 아닌 셈이다.  3) 유럽 AI 사무소를 설립할 것이고 관련 인력을 채용 중이다. EU시민들은 AI 시스템으로 피해를 입었다고 의심되는 경우 불만을 제기 할 수 있다. 그리고 AI시스템이 내린 결정에 대해 설명을 들을 수 있다.    3)번이 중요하고 실효성도 있다고 생각하였다. 이 매거진 다른 와이파이 관련 기술 파트에 나오는데 노동자들을 위해