기본 콘텐츠로 건너뛰기

자율주행차 윤리적 프로그래밍, 트롤리 딜레마 수업 타당한가?

 트롤리 딜레마, 인공지능 윤리 토론 수업의 주제로 적절할까?   트롤리 딜레마는 자율주행자가 관심을 받기 이전에도 초등 도덕 수업의 소재가 되고는 했다. 하지만 트롤리 딜레마에 대해 이야기할 때 수업의 목적, 토론을 하는 이유, 무엇을 생각해보려는 것인지 생각해볼 필요가 있다. 공리주의에 대해 말하고 싶다면 연관성이 있을 수 있지만 다른 사람의 죽음을 선택한다는 도덕적으로 문제가 되는 요소, 그리고 자율주행차가 겪게 될 문제라는 유사성만을 보고 수업이나 토론의 소재로 삼기에는 재고해볼 점이 있다. 자칫 공리주의를 이야기 하기보다는 누가 조금 더 냉정한가 정도의 이야기로 끝날 수도 있다. 특히, 인공지능 윤리 토론의 주제로 트롤리 딜레마를 가져왔다면 자율주행차가 누구를 살리는게 나을지 찬반토론을 하기보다는 자율주행차가 가져올 미래의 윤리적 파장에 대해 찾아보고 해결 방법을 토의하는 것이 더 필요하다고 생각한다.   자율주행차는 도입될 것이며 책임의 전가, 죽음을 선택하는 프로그래밍이 주는 사회 인식의 변화 등을 가져올 것이다.  트롤리 딜레마를 현실에서 논하게 된 이 타당하지 못한 상황에 대해 알고 살아나갈 방법을 이야기 해보아야 한다.  독일의 철학자 리하르트 다비트 프레히트는 책"인공지능의 시대, 인생의 의미"에서 자율주행차 윤리적 프로그래밍이 타당한가를 다룬다. 책 인공지능의 시대, 인생의 의미 中 11. 죽음의 알고리즘의 내용 발췌 및 요약  예를 들어 뤼트게와 그 동료들이 출간한  『 AI 와 로봇 공학의 윤리 Ethik in KI und Robotiky 』 에는 이렇게 적혀 있다 .  〈 만일 적용 영역이 일정한 범위로 제한되고 ,  도덕적 결정의 토대를 이루는 정보가 충분히 알려져 있다면 인공지능은 매우 구체적인 사례에서도 도덕적결정을 내릴 수 있을 것이다 .>  이로써 앞서 언급한 모든 심중한 반박에도 불구하고   AI 의  ...

매크로 키보드, 단축키 키보드라는 신세계!! AutoHotKey와 스마토이 차이점

오토핫키라는 매크로 키보드 언어와 디자이너들의 단축키 키보드 스마토이 차이점, 장단점 비교 AutoHotKey(오토핫키)란?  AutoHotKey(오토핫키)란 키보드로 작동하는 매크로를 만들기 위한 오픈 소스 프로그래밍 언어이다.   (프로그래머 사이에서는 언어라고 불릴 자격이 있는지 없는 지에 대해 일정 기준이 있는 듯하다. 이 오토핫키라는 언어도 만든 이들은 언어라고 하고 있으나 일부 사람들은 언어라고 인정하지 않는다고 한다. 비전공자가 보기에는 다 참신하고 멋지고 마법같다.) AutoHotKey(오토핫키) 간단 사용법, 후기  직관적이어서 꽤 간단하다. 그리고 챗지피티가 있어서 요즘은 비전공자도 하나도 안어렵다.  1. AutoHotKey에 접속한다.  2. Download v2.0 (옆의 버젼 deprecated는 더 이상 사용되지 않음?이라고 하는데 더 이상 개선등이 지원 안된다는 것 같다....?!)   3. 프로그램 설치 후 AutoHotKey Dash 실행한 다음 New Script 클릭  4. 돋보기 파일 아이콘을 눌러서 기존 프로그램을 Edit할 수도 있고,       Create를 눌러서 새 프로그램을 작성할 수도 있다.   5. Edit이나 Create를 누르면 메모장이 열린다.   6. 챗지피티의 도움을 받아서 코드를 짜고 저장한다.  7. 문서 >  AutoHotkey 에서 저장한 파일을 실행하면 키가 작동한다.      단, AutoHotKey가 실행 중일 때 이 프로그램이 작동한다. Window Spy 는 내 마우스 좌표, 현재 커서가 위치한 곳의 색상 등 정보가 뜨는데 왜 있는 것인지 궁금하면서도 이 언어를 알게 되니 컴퓨터의 생전 처음보는 측면을 보는 것 같아 신기하다. 정해진 키보드와 단축키를 연습해서 써왔는데 사용자가 컴퓨터를 ...

책 '도널드 노먼의 인터랙션 디자인 특강'의 흥미로운 내용

도널드 노먼은 누구?  도널드 노먼(Donald A. Norman, 1935년 12월 25일 ~) 은 UX(User Experience, 사용자경험)이라는 개념을 만들었고, 인간 중심 디자인에 대해 연구해온 디자이너, 교수, 작가, 심리학자이다.   그의 이력이 엄청나다. IDEO이사, 휴렛패커드 이사, 애플 부사장을 역임했고, 캘리포니아 대학교 인지과학 명예교수, 노스웨스턴 대학교 컴퓨터과학과 명예교수, 그리고 닐슨 노먼 그룹의 창립자이기도 하다. 미국 예술과학 학술원 및 국립공학원 회원이다.   유명한 저서로 <도널드 노먼의 디자인 심리학>, <도널드 노먼의 인터랙션 디자인 특강>. <도널드 노먼의 UX 디자인 특강>이 있고, 내가 요즘 읽고 있는 것은 <도널드 노먼의 인터랙션 디자인 특강>이다. 책<도널드 노먼의 인터랙션 디자인 특강>  도널드 노먼은 경력을 봤을 때 나이가 많은 것을 알 수 있었지만 책만 봐서는 현재 나이나 직책과 상관없이 디자이너 다운 세련된 감각과 창의적인 생각이 마치 의욕넘치게 이제 이 일을 시작하는 사람처럼 보이기도 했다. 물론  한 분야에서 대가가 된 사람이 가진 내공이 느껴진다. 군더더기가 없이 내용에 일관성이 있어서 책이 크게 두껍지도 않은 편이다.   책<도널드 노먼의 인터랙션 디자인 특강>인간과 기계의 상호작용에 대해 다루는 책이다. 인터렉션 디자인에 관하여 자신의 흥미로운 일화나 이 사람만이 가볼 수 있는 듯한, 다양한 산업 디자인 관련 컨퍼런스의 내용 그리고 거기서 만난 전문가들과의 이야기를 들려주면서 디자인 원리를 쉽게 말해준다. 책<도널드 노먼의 인터랙션 디자인 특강> 흥미로운 부분 2가지 1. 로봇과의 가상 인터뷰  책의 마지막 부분은 전개의 참신함에 깜짝!놀라는데 기계들의 대표에게 메일을 받았다면서 가상으로 인터뷰를 한 내용이 나온다. 기계와의 몇 번...

제임스 카메론 감독이 생각하는 AGI, "스카이넷보다 감시 자본주의, 디지털 전체주의가 큰 위협이다."

제임스 카메론 감독이 생각하는 AGI와 디지털 전체주의의 위협 제임스 카메론 감독이 생각하는 AGI, "진정한 위협은 디지털 전체주의다." 제임스 카메론 감독은 누구? 제임스 카메론은 터미네이터, 아바타, 타이타닉, 에일리언의 감독이다. 24년 9월 말 기사를 찾아보니 인공지능에도 관심이 많아 최근 Stability AI의 이사회의 멤버로 참여했다고 한다. 이 회사는 이제 모르는 사람이 거의 없는 이미지 생성AI, '스테이블디퓨전'으로 유명한 회사이다. AGI를 두고 터미네이터의 "스카이넷" 캐릭터가 많이 회자되는 만큼 제임스 카메론 감독은 AGI 관련 인터뷰를 정말 많이 받았을테고, 실제로 AI의 위험성에 관심이 많다고 한다. 23년 인터뷰에서는 "내가 1984년에 여러분에게 경고했지만, 여러분은 듣지 않았다"고 답변하기도 했다. (참고로 1984년은 영화 '터미네이터'가 개봉된 해) 흥미로운 표현이다. 제프리 힌턴 교수가 한 말이 떠오른다. "연구원들은 정렬 문제를 연구해야 하고 정부는 법안을 마련해야 한다고 말한다. 다만, 아주 불쾌한 일이 일어나기 전까지는 입법이 불가능할 것" 두려워해야 할 것은 터미네이터 영화 장면 같은 종말이 아니라 AI로 인해 '오웰식' 감시 체제가 생기는 것 최근 24년 10월 말 인터뷰에서는 AGI에 대해 AGI 자체는 우리의 거울일 뿐 두렵지 않다고 말하면서 더 두려워해야 할 것은 터미네이터 영화 장면 같은 종말이 아니라 AI로 인해 '오웰식' 감시 체제가 생기는 것이라고 말했다. "AGI는 우리가 선한 만큼 선하고, 우리가 악한 만큼 악할 것"이...

데스봇에 대한 해결방안을 연구한 논문

데스봇과 인공지능 윤리 데스봇에 대한 해결방안을 연구한 논문  데스봇은 찬반토론의 주제로 쓰이기도 하지만 이미 구현된 사례도 있을 정도로 삶에 들어오고 있다.  이 인공지능을 사용할지 말지에 대해서는 애도 방식의 차이라 생각되어 데스봇을 사용하는 사람의 뜻을 존중할 필요가 있고 데스봇이 쓰이는 것을 막을 길도 없다고 생각한다.    데스봇에 윤리적 문제가 얽혀있는 것은 찬반토론으로 끝나지 않는다. 사용될 것이고 이로 인해 야기될 문제들에 대해 이야기하고 함께 토의하는 과정이 꼭 필요하다.

Perplexity AI 써보고 느낀 ChatGPT나 Claude와 차이점

Perplexity AI 체험기   Perplexity가 현재 SK Telecom회원은 1년 Pro무료 입니다.덕분에 퍼플렉시티를 체험해보고 있습니다. Pro 요금제를 1년이나 무료로 쓰게 해준다니 주변 SK텔레콤 쓰는 분들이 모두들 시도해보더라고요. 이 이벤트로 챗지피티나 클로드, 제미나이에 비해 덜 유명한 듯한 퍼플렉시티의 인지도에 변화가 클 것 같습니다.(SK텔레콤 사용자는 Tmembership어플을 켜면 바로 메인에 이 행사 배너가 뜹니다.)  Perplexity AI 써보고 느낀 ChatGPT나 Claude 와 다른 점   1. 발견하기 기능 : 대화형 챗봇만이 아니라 "발견하기"라고 하여 저널, 소식, 정보, 뉴스 등을 제공하는 기능이 있습니다. 새 정보를 접하게 되니 퍼플렉시티에 더 머무르게 되기도 하는데 더 본격적으로 플랫폼의 역할을 하려는 시도가 엿보인다고 생각했습니다.  2. 스레드 그룹화 및 공유 기능 : 그리고 내가 질문한 것들이 "도서관(Libarary)"에 기록되는데 여기 모인 생각의 흐름, 가닥인 "스레드(Thread)"는 정리하고 그룹화해서 다른 사람들에게 공유도 가능합니다. "발견하기"의 저널들도 그렇고 개인적으로 챗지피티, 클로드는 챗봇과 내가 단둘이 대화를 하는 공간이라는 느낌을 받는다면 퍼플렉시티는 사람과 사람 간의 연결, 나와 다른 분야의 소식과의 연결도 일어날 수 있는 공간이 있다는 느낌입니다.  3. 후속 질문 예시를 제시하는 기능 : 내 질문에 이어 가능한 후속 질문을 제시해주어 꼬리에 꼬리를 무는 대화가 가능해서 한 주제에 대해 깊이 연구하게 되는 재미가 있습니다. 미처 생각하지 못한 좋은 질문이 제시되어서 협업의 느낌도 납니다.  4. 답변생성과정이 상세하게 제시되는 기능 : Perplextiy Pro가 답변을 얻기 위한 과정을 정리하고 이에 따라 정보를 검색하여 답변을 정리하는 일련의 과정이 상세히 제시됩니다. 그리고 마지막에 출처 등도 ...

생성형 인공지능 윤리, 데드봇 찬반의견, 프로젝트 디셈버 찬반 의견

   생성형 인공지능 윤리(엔트리 과정) 라이브 코칭  생성형 인공지능 윤리(엔트리 과정)에서 3번째 날은 라이브 코칭이었다. 선생님들 중 과제를 제출하신 분의 엔트리코드, 지도안에 대한 피드백을 하는 시간이었다.  선생님들의 지도안과 코드는 인상적인 것, 간단한 것 그리고 교육적인 것이 많아 함께 나누었고 연수하며 많이 배웠다. 처음에는 2시간 동안 과제를 피드백하는 라이브 코칭에 대해 어떻게 해야 할까 고민이 컸다. 그러다가 과제를 내신 분들 아이디어가 정말 좋은 것들이 많아서 나눌 점만 소개해도 좋겠다는 아이디어가 나왔다. 이런 식의 진행은 처음 해보았는데 모든 사람이 다같이 배우는 것 같다. 시간상 모든 분의 과제를 소개 못하는 점은 난제로 남았으나 모든 분을 다 소개하면 하루로 안되고 그게 더 문제일지도 모른다 .  데드봇  과제, 작품 공유를 하고도 시간이 많이 남게 되므로 우리는 각자 생성형 인공지능과 관련된 더 이야기 해보고 싶은 주제를 가져오기로 했다.   테드 창의 소프트웨어 객체 생애주기는 참 흥미롭지만 주제와 완전히 밀접하지는 않았다. 대신 제이슨 로러라는 프로그래머가 만든 챗봇 커스터마이징 사이트인 프로젝트 디셈버와 그 사이트를 활용해서 죽은 약혼자 챗봇을 만든 조슈아의 이야기를 꺼내기로 했다.    챗봇 사이트를 만든 프로그래머 제이슨 로러의 입장은 기술에 자유로운 편이다. 오히려 조슈아의 일이 알려지고 나서 사이트의 컨셉이 데드봇에 더욱 더 가까워진 것 같다.   (여담 : 더불어 이번에 자료를 찾으면서 제이슨 로러라는 프로그래머가 굉장히 독특한 생각을 가진 인디 게임 제작자라는 것도 알게 되었다. 일화 중에 자식을 성별 구분 없이 키우기 위해 아이가 태어나고 며칠 동안 자식의 성별을 확인 안하고 키웠다거나 냉장고 없이 5~6년 산 이야기 등이 있다. 태어나서 처음 보는 유형의 사람이다.  이 사람이 제작한 게임 중에 한...
Creative Commons License