준비물AI 모델 - Hugging face 에서 아무 모델이나 다운받아서 설치해도 됨. (로컬 성능을 참고해서)작업은 Gemma-2-2b-it 로 진행했음.* 이전 게시물 참고 [Llama3.1] Windows 로컬 에서 AI 모델 사용하기 - Ubuntu 24.04Llama3.1 모델을 처음 설치할때 Windows 에 설치 했다가 에러가 하도 많아서 그냥 Ubuntu 에서 실행하기로 했다.Ubuntu 설치는 이전에 올린 글 참조 24.04 버전 설치 https://bob-data.tistory.com/42  [Linux] Windowsbob-data.tistory.comDataset 준비Hugging face 에 있는 medical 데이터 사용. https://huggingface.co/datasets..

Llama3.1 모델을 처음 설치할때 Windows 에 설치 했다가 에러가 하도 많아서 그냥 Ubuntu 에서 실행하기로 했다.Ubuntu 설치는 이전에 올린 글 참조 24.04 버전 설치 https://bob-data.tistory.com/42  [Linux] Windows 11 에서 WSL 로 Ubuntu 설치WSL (Windows subsystem for Linux) 설치WSL 은 Windows 에서 Linux 배포판을 실행할 수 있는 기능이다. WSL 2 설치Power Shell을 관리자 권한으로 실행명령 프롬프트에 wsl --install 명령을 실행. wsl -l -0 를 사용해bob-data.tistory.comUbuntu 설치가 완료 됐다면 Ubuntu cmd 창을 킨다. Ubuntu 를 ..

Llama를 한 번쯤은 로컬에서 구동해보고 싶었는데 이번에 Llama3.1 이 나오고 엄청 핫하길래 기회가 될 때 시도해 보기로 했다. 듣기로는 오픈소스는 여러 사람의 집단 지성으로 더 빨리 발전한다고도 함. 아무튼 Llama 를 사용하는 방법은 여러가지가 있는데 그 중 두가지를 시도 해봤다.Linux 환경에서 Llama3.1 model 돌리기올라마 사용당연하게도 올라마를 사용하는게 압도적으로 쉬움. Linux 환경에서 시도한 내용 [Llama3.1] Windows 로컬 에서 AI 모델 사용하기 - Ubuntu 24.04Llama3.1 모델을 처음 설치할때 Windows 에 설치 했다가 에러가 하도 많아서 그냥 Ubuntu 에서 실행하기로 했다.Ubuntu 설치는 이전에 올린 글 참조 24.04 버전 설..