걸어서개발한바퀴

RAG의 종류와 search 방법, RAG를 도와주는 여러가지 기법들 (ft.aws workshop)

aws 에서 제공해줬던 workshop을 참고한 내용입니다. https://catalog.us-east-1.prod.workshops.aws/workshops/a372f3ed-e99d-4c95-93b5-ee666375a387/ko-KR Amazon Bedrock Q&A multi-modal chatbot with advanced RAGThis workshop implements several advanced RAG technologies such as parent document, reranker, HyDE, RAG fusion, hybrid search.catalog.us-east-1.prod.workshops.awsRAG의 종류에는 다음과 같은 종류가 있습니다. 1. Lexical Search (어휘..

안드로이드에서 객체 감지를 구현하는 방법에는 Google ML Kit과 TensorFlow Lite Object Detection API를 사용하는 방법이 있습니다. 두 기술은 각각 고유한 장단점을 가지고 있으며, 사용 사례에 따라 적합한 선택이 달라질 수 있습니다. 이번 글에서는 두 방법을 비교하고, 어떤 상황에서 적합한지 알아보겠습니다.1. Google ML Kit특징완전한 SDK 제공: Google ML Kit는 개발자가 복잡한 머신러닝 모델을 다루지 않고도 객체 감지 및 기타 AI 기능을 구현할 수 있도록 간단한 API를 제공합니다.온디바이스(On-Device) 처리: 네트워크 연결 없이도 동작하며, 빠르고 효율적입니다.사용자 정의 모델 통합 가능: 기본 모델 외에도 TensorFlow Lite로..

안드로이드의 Camera2 API와 TensorFlow Lite를 사용해 사진을 찍고 기기(On-Device)에서 실시간 Object Detection을 수행하는 방법을 소개합니다. 이 글은 Camera2 API를 활용한 이미지 캡처와 TensorFlow Lite 모델 통합 과정을 설명하며, 여러분의 Android 프로젝트에서 직접 구현할 수 있도록 자세히 안내합니다. github repository: https://github.com/jinmc/camera_test_android/tree/main주요 기능Camera2 API: 고급 카메라 기능과 이미지 캡처 제공.TensorFlow Lite Object Detection: 사전 학습된 TensorFlow Lite 모델을 사용해 실시간 객체 탐지.로컬 ..

문제 상황Android 앱 개발 중 Camera2 API를 사용하여 이미지를 캡처한 후 외부 저장소에 저장하려고 했을 때, 다음과 같은 예외가 발생할 수 있습니다:FATAL EXCEPTION: videoThreadProcess: com.example.myapplication, PID: 17049java.io.FileNotFoundException: /storage/emulated/0/thisimage.jpg: open failed: EPERM (Operation not permitted)이 에러는 Android의 저장소 접근 정책 변화로 인해 발생하는데, 특히 Android 10(API 29) 이상에서는 Scoped Storage가 도입되면서 앱이 외부 저장소에 접근하는 방식이 제한되었습니다.원인 분석S..

SQL과 GCP cloudsql을 연결하는 방법에 대해서 포스팅을 하도록 하겠습니다. 그렇게 어렵지는 않지만, 생각보다 쉽지 않은 점이 있기 때문에, 정리를 해두려고 합니다. (chatgpt 활용!) 1. GCP Cloud SQL 인스턴스 준비하기Cloud SQL 인스턴스 생성GCP 콘솔에서 Cloud SQL 페이지로 이동합니다.“인스턴스 생성” 버튼을 클릭한 후, 데이터베이스 유형으로 “MySQL”을 선택합니다.인스턴스 이름, 비밀번호, 지역 등을 설정한 뒤 인스턴스를 생성합니다.네트워크 설정 확인생성된 Cloud SQL 인스턴스의 “연결” 탭으로 이동합니다.“공개 IP”를 활성화하고, 연결할 클라이언트의 IP 주소를 허용 목록(Authorized Networks)에 추가합니다.본인의 IP 주소를 확인..

2024년 10월 1일에 openai에서 실시간 streaming api를 출시하였습니다. https://openai.com/index/introducing-the-realtime-api/ 정확한 내용은 websocket을 이용한 방식이며, 오디오 스트리밍을 제공한다고 합니다. 가격은 다음과 같습니다.$2.50/1M cached text input tokens and $20/1M cached audio input tokens사실 비싼건지 싼건지 그렇게 감이 오지는 않네요. 써봐야지 알 것 같긴 하지만 스케일링 하기엔 좋지 않아보이긴 합니다.그리고.. 2024년 12월 17일 WebRTC 업데이트를 발표합니다.정확한 사항은 아래 링크를 참고하면 될 거 같습니다. https://platform.openai...

플러터 앱 개발 & 출시하기라는 책을 사서 새로 flutter 앱을 만들려고 합니다. 책에 나온 이야기를 조금 요약하자면, 1. Android Studio or Visual Studio 설치 (이미 되어있음)2. Flutter sdk 설치하기 (3. xx) - android studio 에 플러그인도 설치flutter doctor 로 인증 가능emulator 또는 실제 Device로 테스트 가능 그리고.. firebase 설치하기.Firebase에 대해서 chatgpt 에 물어보니깐 이렇게 말해줍니다. Firebase: 앱 개발을 위한 올인원 플랫폼Firebase는 Google에서 제공하는 모바일 및 웹 애플리케이션 개발 플랫폼으로, 앱 개발, 테스트, 배포, 모니터링까지 모든 단계를 지원합니다.주요 기..

이전에 구축했을 때는 온갖 삽질을 다 해서 했는데, GPT 와 함께하니 좋은 설정들을 알려주면서 해서 정말 시간 절약이 많이 되었다.그래도 미리 알고 있는거랑 아닌거는 차이가 많이 나니, 정리를 해보도록 하면, 1. nvidia driver 470.223 이미 installed. 2. Cuda version -> nvidia-smi 에서 뜨는것은 아마도 추천 버전인 듯 했다.sudo apt install cuda-toolkit 을 하니.. (좀 다를수도 있다) 11.3이 뜨는데 그것도 괜찮을거같아서 install 했다.3. nvcc --version으로 cuda version 확인 4. pytorch 버전 확인 -> gpt 에 의하면 나의 환경에 맞는 pytorch는 1.12.1 이라고 한다. 왠지는 잘..

프로젝트를 하다가 앱을 만드는데 있어서 음성 녹음을 받아서 chatgpt한테 넘겨주는 애플리케이션을 만드는 데 있어서, vad의 중요성을 알게 되었습니다. 관련 아티클 : https://thegradient.pub/one-voice-detector-to-rule-them-all/  One Voice Detector to Rule Them AllVAD is among the most important and fundamental algorithms in any production or data preparation pipelines related to speechthegradient.pub VAD의 필요성은, STT를 사용하려면 wav file 또는 mp3 파일이 있어야지 그걸 STT 모델에 전달 할 수 ..

기본적으로 RAG에 관한 관심이 굉장히 많아지는 요즘, 제대로 한 번 해보기로 했습니다.reference site : https://github.com/openai/openai-cookbook/blob/main/examples/Question_answering_using_embeddings.ipynb openai-cookbook/examples/Question_answering_using_embeddings.ipynb at main · openai/openai-cookbookExamples and guides for using the OpenAI API. Contribute to openai/openai-cookbook development by creating an account on GitHub.gi..