(실습) GPT-4, ChatGPT, 라마인덱스, 랭체인을 활용한 인공지능 프로그래밍

 

책 : GPT-4, ChatGPT, 라마인덱스, 랭체인을 활용한 인공지능 프로그래밍 한 권으로 끝내는 OpenAI API 기반 LLM 애플리케이션 구축

 교양 삼아 배우는 것 치고 노마드 코더 강의가 비싸서 망설이다가 이러다가 안할 것 같아서 책을 샀다.

 

오늘 한 것

1. 내 API키로 코랩에서 텍스트 생성을 시켜보았다. 

오늘 안 것

1. API키는 다른 사람에게 공개하지 않도록 한다. 

(유료인 경우 남이 가져다 쓰면 문제가 된다. 물론 한도 설정 기능은 있다.)

2. Openai API키는 로그인해서 카드등록을 하고 발급받아서 사용해야 한다.

(로그인해서 바로 생성되지만 그 API는 사용 못한다. 나도 처음에 그랬는데 카드를 등록하고 다시 재발급 받은 API만 사용가능하다.

내 계정에 사용가능한 크레딧이 남아있다고 해도 소용없다. 카드 등록부터 해야 한다.

카드등록 안 한 API KEY를 사용하면 이런 에러가 뜨면서 코드가 실행되지 않는다.

openai.error.RateLimitError: You exceeded your current quota, please check your plan and billing details.)

3. Openai API 카드등록 시 처음에 유효성 검사를 위해 5달러가 빠져나가고 일주일 안에 환불된단다.

(나는 바로 충전금을 입력하라는 창이 뜨길래 5달러를 입력하였는데 좀 다른 상황이 다르게 된 것 같지만 5달러는 연습에 쓸만하지!)

4. max_tokens=100 했더니 이야기가 잘렸다ㅎ 저정도 텍스트에 0.01달러 이하를 사용했다고 뜬다.

# 프롬프트 준비

prompt = '''다음 이야기를 써주세요.

토실토실한 오리가 펭펭이랑 놀다가 열대 우림에서 수영을 하는 이야기.'''

# 텍스트 생성 실행

import openai

response = openai.Completion.create(

 model="gpt-3.5-turbo-instruct",

 prompt=prompt,

 temperature=0.7,

 max_tokens=100

)

print(response["choices"][0]["text"])

생성된 텍스트 : 오리와 펭귄은 서로 다른 생태계에서 살아가는 새들이지만, 우리가 모르는 이야기들이 많이 있을지도 모른다. 그들은 사실 열대 우림에서도 만날 수 있다는 것을 알고 있었다. 그래서 어느 날 두 마리

오늘 흥미로운 점

1. 프롬프트에는 지인의 별명인지라 펭펭이라고 썼는데 생성된 텍스트에서는 펭귄이라고 바뀌어 이야기가 지어진 것이 흥미롭다. 

2. 코랩 AI가 꽤 도움이 된다. (코랩AI가 거듭 보안을 생각할 때 터미널에서 패키지를 설치하라고 권하는데 그 부분은 이해하지 못했다.)

3. 출판사가 힘들겠다. 서점에서 본 다른 책도 저자가 자신의 책을 마무리할 때 또 새로운 기술이 나왔다고 이야기하던데 이 책도 정오표를 좀 봐야 한다. 업데이트가 되면서 패키지나 모델 등을 입력할 때 바뀐 것들이 있기 때문이다. 교보문고 후기에 코드가 안되는 것이 있다고 이점이 아쉽다고 적혀있는데 https://wikibook.co.kr/openai-llm에 정오표가 아주 잘 나와있다. 책에 코드 싣기 어려운 세상인가보다.