걸어서개발한바퀴

2024년 10월 1일에 openai에서 실시간 streaming api를 출시하였습니다. https://openai.com/index/introducing-the-realtime-api/ 정확한 내용은 websocket을 이용한 방식이며, 오디오 스트리밍을 제공한다고 합니다. 가격은 다음과 같습니다.$2.50/1M cached text input tokens and $20/1M cached audio input tokens사실 비싼건지 싼건지 그렇게 감이 오지는 않네요. 써봐야지 알 것 같긴 하지만 스케일링 하기엔 좋지 않아보이긴 합니다.그리고.. 2024년 12월 17일 WebRTC 업데이트를 발표합니다.정확한 사항은 아래 링크를 참고하면 될 거 같습니다. https://platform.openai...

기본적으로 RAG에 관한 관심이 굉장히 많아지는 요즘, 제대로 한 번 해보기로 했습니다.reference site : https://github.com/openai/openai-cookbook/blob/main/examples/Question_answering_using_embeddings.ipynb openai-cookbook/examples/Question_answering_using_embeddings.ipynb at main · openai/openai-cookbookExamples and guides for using the OpenAI API. Contribute to openai/openai-cookbook development by creating an account on GitHub.gi..

딥러닝ai 에 있는 ChatGPT Prompt engineering for developers 강의를 들은 정리와 소감 내용입니다. 강의는 deeplearning.ai 에 있으며, https://github.com/jinmc/chatGPT-Prompt-Engineering-for-Developers 에 관련 노트북 코드도 올려 놓았습니다. 1. Guidelines delimeter 사용하기 (특히 input에 관해서), json, html 등의 포맷으로 리턴하기, 스텝을 거쳐서 모든 조건이 완료되었는지 확인, Few-shot prompting (대화에 맞춰서 response output 하기), 몇 단계를 나눠서 response를 output하기, 등등 2. Iterative prompt developm..

ChatGPT의 시대가 열리면서, ChatGPT 를 어떻게 활용해야 되는지에 대해서 온갖 방법들이 생깁니다. ChatGPT 그 자체로도 훌륭하지만, 좀 더 Customize 하고 싶은 사람들이 많아지면서 Finetuning에 대한 방법이 나옵니다. Finetuning을 하는 이유에 대해서 먼저 정리해 보자면, Fine-tuning lets you get more out of the models available through the API by providing: Higher quality results than prompt design Ability to train on more examples than can fit in a prompt Token savings due to shorter prompt..

정말 좋은 세상인 것 같습니다. 이제는 이미지를 만들어주는 api도 뚫리고, 해보니깐 꽤나 잘되네요. 물론 api_key가 있어야 하겠지만, 간단한 스크립트로 몇백개나 몇천개의 이미지를 손쉽게 만들수 있습니다. 다만, images 라는 폴더를 만들어줘야 합니다. size의 경우에는 256x256, 512x512, 1024x1024 세 가지가 있다고 하고, response_format은 url, b64_json 두 가자의 포맷이 있다고 합니다. num은 1에서 10까지 정할 수 있고, 첫번째 for loop에 얼마나 많은 값의 숫자를 넣느냐에 따라 받는 이미지의 양을 정할 수 있습니다. 현재 10으로 되어있기 때문에, 100장이 나오고, 100으로 하면, 1000장이 나옵니다. 해봤을 때, 250장 정도까..