[Fine tuning - LoRA] 10분만에 로컬에서 파인튜닝하기 (Ubuntu)
·
인공지능 [AI]
준비물AI 모델 - Hugging face 에서 아무 모델이나 다운받아서 설치해도 됨. (로컬 성능을 참고해서)작업은 Gemma-2-2b-it 로 진행했음.* 이전 게시물 참고 [Llama3.1] Windows 로컬 에서 AI 모델 사용하기 - Ubuntu 24.04Llama3.1 모델을 처음 설치할때 Windows 에 설치 했다가 에러가 하도 많아서 그냥 Ubuntu 에서 실행하기로 했다.Ubuntu 설치는 이전에 올린 글 참조 24.04 버전 설치 https://bob-data.tistory.com/42  [Linux] Windowsbob-data.tistory.comDataset 준비Hugging face 에 있는 medical 데이터 사용. https://huggingface.co/datasets..
Certbot 으로 Let’s encrypted 무료 https SSL 적용 - AWS Node.js
·
Cloud
준비물domain (가비아에서 도메인 구매)domain, www.domain (두 개 설정 필요)Lightsail server AWS 가입후 lightsail 에서 instance 생성5$, $7, $12 는 3개월 무료SFTP 접속Lightsail 에서 console로 접속키 파일을 다운받아 putty 로 접속도 가능 (putty gen 으로 private 키를 생성하고 접속해야 함)Nginx  설치sudo apt updatesudo apt install nginx conf.d 파일에 도메인 설정 추가 (site-available 에 추가함)sites-available/sites-enabled 는 더이상 사용되지 않는 Nginx 설정 방법이라고 한다. 이 포스팅에서는 conf.d 에 Nginx 설정 파..
[Llama3.1] Windows 에서 Ubuntu로 AI 모델 사용하기 - Ubuntu 24.04
·
인공지능 [AI]
Llama3.1 모델을 처음 설치할때 Windows 에 설치 했다가 에러가 하도 많아서 그냥 Ubuntu 에서 실행하기로 했다.Ubuntu 설치는 이전에 올린 글 참조 24.04 버전 설치 https://bob-data.tistory.com/42  [Linux] Windows 11 에서 WSL 로 Ubuntu 설치WSL (Windows subsystem for Linux) 설치WSL 은 Windows 에서 Linux 배포판을 실행할 수 있는 기능이다. WSL 2 설치Power Shell을 관리자 권한으로 실행명령 프롬프트에 wsl --install 명령을 실행. wsl -l -0 를 사용해bob-data.tistory.comUbuntu 설치가 완료 됐다면 Ubuntu cmd 창을 킨다. Ubuntu 를 ..
[Linux] Windows 11 에서 WSL 로 Ubuntu 설치
·
컴퓨터 과학 [CS]
WSL (Windows subsystem for Linux) 설치WSL 은 Windows 에서 Linux 배포판을 실행할 수 있는 기능이다. WSL 2 설치Power Shell을 관리자 권한으로 실행명령 프롬프트에 wsl --install 명령을 실행. wsl -l -0 를 사용해 설치 가능한 리눅스 배포판을 확인 할 수 있다.원하는 배포판을 선택하여 설치. 최신 버전(24.04) 버전으로 설치했음wsl --install -d Ubuntu-24.04 설치 완료후 UNIX username 과 비밀번호를 입력하라고 나온다. 앞으로 계속 사용할 것이기 때문에 입력 후 잘 기록 남겨 놓기.설치된 리눅스 목록 보기 wsl -l -v완료되면 메뉴 검색 창에 Ubuntu 를 검색하면 Ubuntu 서버가 커널로 연결된다.
[Llama3.1] Ollama 로 Fine tuning 하기
·
인공지능 [AI]
Llama를 한 번쯤은 로컬에서 구동해보고 싶었는데 이번에 Llama3.1 이 나오고 엄청 핫하길래 기회가 될 때 시도해 보기로 했다. 듣기로는 오픈소스는 여러 사람의 집단 지성으로 더 빨리 발전한다고도 함. 아무튼 Llama 를 사용하는 방법은 여러가지가 있는데 그 중 두가지를 시도 해봤다.Linux 환경에서 Llama3.1 model 돌리기올라마 사용당연하게도 올라마를 사용하는게 압도적으로 쉬움. Linux 환경에서 시도한 내용 [Llama3.1] Windows 로컬 에서 AI 모델 사용하기 - Ubuntu 24.04Llama3.1 모델을 처음 설치할때 Windows 에 설치 했다가 에러가 하도 많아서 그냥 Ubuntu 에서 실행하기로 했다.Ubuntu 설치는 이전에 올린 글 참조 24.04 버전 설..
JWT Cookie Session 비교
·
컴퓨터 과학 [CS]
최근에는 인증과 인가를 위해 jwt와 session, 쿠키를 많이 사용합니다. 하지만 이들의 차이점을 모르는 분들이 많아 혼란스러워하고 계실 것입니다. 이번에는 jwt, session, 쿠키의 차이점과 장단점에 대해 알아보도록 하겠습니다. jwt와 session, 쿠키는 어떤 차이점이 있나요? jwt는 json web token의 약자로, 클라이언트와 서버 간 정보를 주고받을 때 사용하는 토큰입니다. jwt는 서버에서 발급하며, 발급된 토큰은 클라이언트에 저장됩니다. 이후 클라이언트는 서버에 요청을 보낼 때마다 토큰을 함께 전송하며, 서버는 이를 검증하여 인증과 인가를 수행합니다. 이러한 방식은 서버의 상태를 유지하지 않기 때문에 확장성이 높고, CORS와 같은 문제를 해결할 수 있습니다. 반면, ses..
[nodejs] REST API란 무엇인가(원칙 6가지)
·
Nojde.js
1. Uniform interface하나의 자료는 하나의 URL로URL 하나를 알면 둘을 알 수 있어야함요청과 응답은 정보가 충분히 들어있어야함2. Cliemnt-Server 역할구분브라우저는 요청만 할 뿐서버는 응답만 할 뿐3. Stateless요청1과 요청2는 의존성이 없어야함4. Cacheable서버에서 보내주는 정보들은 캐싱이 가능해야함캐싱을 위한 버전 같은 것도 관리 잘해야함5. Layered System6. Code on Demand REST API 이름짓기 원칙URL을 명사로 작성하위문서를 나타낼 때는 '/'파일확장자(.html) 쓰지말기띄어쓰기는 대시(-) dldyd자료 하나당 하나의  URL
[nodejs] nodemon 패키지 설치 & HTML 파일 전송
·
Nojde.js
npm initnodemon server.js아래와 같은 오류가 생긴다. 권한이 없어서 생기는 오류powershell에 관리자로 접속한다.위와 같은 코드를 입력하여 제한된 권한을 풀어준다. 다시 nodemon 패키지를 설치한다.nodemon server.js서버에서 HTML 파일전송// server.jsconst express = require('express');const app = express();app.listen(8080, function(){ console.log('listening on 8080')});// '/' 하나만 입력해주면 홈페이지로 연결시켜준다.app.get('/', function(request, response){ response.sendFile(__dirname +..
coder_
Good coder