Vast.ai 환경에서 QLoRA를 활용한 LLM 파인튜닝 상세 가이드북1. 서론본 가이드북은 Vast.ai의 GPU 컴퓨팅 자원을 활용하여 대규모 언어 모델(Large Language Model, LLM)을 QLoRA(Quantized Low-Rank Adaptation) 기법으로 파인튜닝하는 과정을 상세히 안내합니다. Vast.ai는 GPU 컴퓨팅 파워를 임대할 수 있는 마켓플레이스로, 효율적인 모델 학습 환경을 제공합니다.1 QLoRA는 모델의 가중치를 4비트로 양자화하고 소수의 학습 가능한 파라미터(LoRA 어댑터)만을 추가하여 파인튜닝하는 기법으로, 메모리 사용량을 획기적으로 줄여 제한된 하드웨어 환경에서도 대규모 모델의 파인튜닝을 가능하게 합니다.2본 가이드에서는 사용자가 Vast.ai에서 학..
지피티에게 나의 실력을 객관적으로 평가해달라고 부탁했다. 그동안 너와 내가 상호작용하면서 내가 작성했던 모든 코드들의 대해서 평가해줄래? 이 채팅에 한해서가 아니라, 다른 모든 채팅에 대해서도 포함해줘. 내가 주로 작성한 언어는 리액트 타입스크립트이고, 어떤 수준의 레벨로 평가될 수 있는지를 냉정하게 이야기 해줘. 그리고 어떤 회사에 지원하는 레벨로 환상했을 때는 결격 사유가 될 수 있는지 알려줘. 결과는 충격적이었다. 평소에 하던 질문에서는 잘 답변해주지 않았던 객관적인 평가가 답변으로 돌아왔다.나 스스로 알고도 모른척 했던 부분이나 심지어 이런 게 있는 줄도 모르는 지식들로 피드백해주었다. 피드백 내용으로는 다음과 같았다.제네릭 default / skipped parameter, 조건부 타입 등..
웹 애플리케이션, 특히 React와 같은 컴포넌트 기반 라이브러리 혹은 프레임워크를 사용하여 개발할 때, HTML 요소의 클래스 이름을 동적으로 조합해야 하는 상황은 빈번하게 발생한다. 상태 변화에 따른 스타일 변경, 사용자 설정 기반 테마 적용 등이 대표적인 예시이다. 이러한 경우 개발자는 주로 JavaScript의 템플릿 리터럴(백틱 ``) 방식 또는 cn과 같은 유틸리티 함수 활용 방식 중 하나를 선택하게 된다.특히 최근 shadcn/ui와 같은 라이브러리의 사용이 증가하면서, 내부적으로 cn 함수를 활용하는 코드를 접하는 일이 많아졌다.TypeScript import { type ClassValue, clsx } from "clsx";import { twMerge } from "tailwind-m..
이번 포스팅에서는 익스텐션 주요 파일들에 대해 알아보겠습니다. Manifest.json이 파일은 익스텐션의 메타데이터들을 담고 있습니다. 익스텐션의 이름, 버전, 권한 스크립트 파일 등을 정의합니다.{ "manifest_version": 3, "name": "세종이-세종대학교 과제알리미", "description": "세종대학교 과제알리미입니다.", "options_ui": { "page": "src/pages/options/index.html" }, "background": { "service_worker": "src/pages/background/index.ts", "type": "module" }, "action": { "default_popup": "src/pa..
다시 코딩테스트를 위해 node js로 구현문제를 준비한다. 이제 알고리즘 문제 해결에 필요한 기본적인 문법은 잘 다루기 때문에, 검색의 도움 없이 해결이 가능했다. 구현 파트는 막코딩으로도 충분히 해결가능하지만 효율적인 코드를 찾다 보니 검색의 도움을 받는다. - 미세먼지 안녕 !https://www.acmicpc.net/problem/17144 문제는 미세먼지의 양을 구하는 문제로, 명확한 과정이 명시되어 있어 그대로 구현하면 된다. 첫 번째로 구현할 것은 미세먼지의 확산이다. 미세먼지 확산은 미세먼지가 있는 곳에서 인접한 네 방향으로 확산된다. 하지만 미세먼지가 동시에 확산되게 해야 한다. 즉 탐색하는 도중에 미세먼지를 발견해서 확산을 진행하면, 다음 미세먼지 확산에 영향을 준다. 따라서 크기가 같..
