걸어서개발한바퀴

  • 홈
  • 태그
  • 방명록

quantize 1

맥북 실리콘에서 LLAMA2 로컬에서 돌리는 방법입니다.

reference : https://www.youtube.com/watch?v=TsVZJbnnaSs Repos and models 1. Request access: https://ai.meta.com/resources/models-and-libraries/llama-downloads/ 2. Clone: https://github.com/facebookresearch/llama 3. Clone: https://github.com/ggerganov/llama.cpp 위 두 개의 git repository를 클론하고 1번 url에서 llama2 model을 받습니다. llama2 모델은 (7B, 13B, 70B, 7B-chat, 13B-chat, 70B-chat) 6가지 종류 중 하나입니다. 7B 모델 기준 ..

Deep Learning/NLP 2023.07.24
1
더보기

방문자수Total

  • Today :
  • Yesterday :
프로필사진

개발여행 가 봅시다~

  • 분류 전체보기 (193)
    • Audio Processing (2)
    • 알고리즘 (7)
      • 리트코드 (5)
    • Data Engineering (3)
    • Linux (16)
      • Ubuntu (13)
    • Utils (15)
      • Program (4)
      • Git (6)
    • Machine Learning (30)
      • Device (7)
      • Tensorflow (5)
      • Regression (1)
    • Python (10)
      • Concurrency (4)
      • Basics (3)
    • 환경설정 (11)
    • kaggle 및 dacon (2)
    • Web Programming (18)
      • Server (5)
      • Java Spring (11)
    • Cloud (2)
      • Docker (7)
    • Network (2)
      • protocols (1)
    • Video Processing (5)
      • Gstreamer (2)
    • Image Processing (11)
      • Cv2 (8)
    • Deep Learning (30)
      • NLP (10)
      • Computer Vision (11)
    • 잡담 (2)
    • 모바일 (1)
      • 안드로이드 (10)
      • flutter (2)
    • openai (5)
    • Data Science (2)

Tag

TFlite, CNN, Linux, Python, OpenCV, cv2, image classification, docker, GCP, ubuntu, spring boot, tx2, Android, tensorflow, yolo, 도커, yolov5, mac, Git, jetson,

최근글과 인기글

  • 최근글
  • 인기글

최근댓글

공지사항

페이스북 트위터 플러그인

  • Facebook
  • Twitter

Archives

Calendar

«   2025/05   »
일 월 화 수 목 금 토
1 2 3
4 5 6 7 8 9 10
11 12 13 14 15 16 17
18 19 20 21 22 23 24
25 26 27 28 29 30 31

Copyright © Kakao Corp. All rights reserved.

티스토리툴바