728x90 분류 전체보기598 [LLM] 모델 가볍게 만들기 이전 내용 [LLM] sLLM 학습하기이전 내용 [LLM] GPU 효율적인 학습이전 내용 [LLM] 텍스트 분류 모델 학습시키기이전 내용 [LLM] 허깅페이스 라이브러리 사용법 익히기허깅페이스 [AI 플랫폼] 허깅페이스: AI와 머신러닝의 새로운puppy-foot-it.tistory.com모델 가볍게 만들기 LLM을 배포하는 경우 GPU에서 가장 많은 비용이 발생하므로, GPU를 가능하면 적게 사용해서 비용을 낮춰야 비용 효율적인 서빙을 할 수 있다. LLM은 기존 딥러닝 모델에 비해 크기가 훨씬 크므로 효율적인 서빙이 중요하다.※ 모델 서빙모델 서빙이란, 훈련된 모델을 실서비스에 사용할 수 있도록, 클라이언트에게 모델 예측 결과를 효율적으로 전달하는 방식을 말한다. [GPU를 효율적으로 활용하는 방식].. 2025. 1. 2. [JAVA] 25년 1월 2일 - 자바 기초 ◆ 새 프로젝트 만들기 New - java project - 프로젝트명: java_ex02 ◆ 클래스 만들기 java_ex02 - src - New - Class - Ex01 * 이클립스 다크모드 설정Window - Preferences - General - Appearance - Theme - Dark ◆ 웹, 앱: 보이는 영역(프론트엔드) - html5, css3, jquery, react, angular, node.js, view....보이지 않는 영역(백엔드) - DB - MongoDB, MySQL, Oracle....java, c, c#, c++asp, jsp, php * 파이썬의 경우, 프론트엔드, 백엔드, 데이터분석 등 다방면에서 쓰임.* 풀스택 : 프론트엔드 + 백엔드* 다양한 언어 중에.. 2025. 1. 2. [전직일기] #4 학원 훈련 시작(은 또 연기) 지난 일기 [전직 일기] #3 국취제 1회차 3차 방문지난 일기 [전직 일기] #2 훈련기관 선정 및 고용센터 2차 방문지난 일기 [전직 일기] #1 국민취업지원제도 1유형 선정24년 10월 24일 - 고용센터 방문 및 상담 작년부터 퇴근 후, 주말에도 전직을puppy-foot-it.tistory.com24년 12월 27일 - 2회차 취업촉진수당 접수 2회차 접수는 중간에 훈련 일정이 밀리는 이슈가 있었지만, 그래도 큰 어려움 없이 잘 접수했다.어느덧 25년! 어느덧 25년 새해가 시작됐다.원래대로라면 이미 학원에서 직업 훈련을 시작하고 있어야 하지만, 수강생이 원활하게 모집되지 않아서 훈련 시작일이 2주가 또 밀리게 되었다. (총 6주가 밀렸다.)학원에서는 일정을 연기하는 게 너무도 미안했던지, 밀린.. 2025. 1. 2. [부모일기] #4 임밍아웃, 태아보험 지난 일기 [부모일기] #3 산부인과, 보건소 방문지난 일기 [부모일기] #2 산전검사, 임신 사전건강관리지원 신청 하기지난 일기 [부모일기] #1 부모 될 준비하기21년 8월 15일 21년 8월 15일. 그녀를 처음 만난 날.일주일? 2주 가까이 연락만 하다puppy-foot-it.tistory.com이번 일기 마지막 일기를 쓴지 어느덧 한 달이 훌쩍 지나고, 12월도 지나고 2025년 새해가 다가왔다.뱃속의 아가는 어느새 10주를 맞이했고, 그새 팔다리도 생겨났다. 한 달이 넘는 시간동안 꽤 많은 일들이 있었다. ◆ 24년 12월 23일. 새로운 지차제(구) 보건소가서 임산부 등록하기임신을 한 후, 이사를 하게 되어 다른 지자체 (시 또는 구)로 가게 되면 해당 지자체 보건소에서 임산부 등록을 새로 .. 2025. 1. 2. [JAVA] JAVA 개념, JAVA를 위한 프로그램 설치 JAVA 란?출처: 위키백과 자바(영어: Java)는 썬 마이크로시스템즈의 제임스 고슬링(James Gosling)과 다른 연구원들이 개발한 객체 지향적 프로그래밍 언어이다. 1991년 그린 프로젝트(Green Project)라는 이름으로 시작해 1995년에 발표했다. 처음에는 가전제품 내에 탑재해 동작하는 프로그램을 위해 개발되었지만 현재 웹 애플리케이션 분야에 가장 많이 사용하는 언어 중 하나이고, 안드로이드를 비롯한 모바일 기기용 소프트웨어 개발에도 널리 사용되고 있다. 현재 버전 20까지 출시했다. 자바의 개발자들은 유닉스 기반의 배경을 가지고 있었기 때문에 문법적인 특성은 파스칼이 아닌 C++의 조상인 C 언어와 비슷하다. 자바를 다른 컴파일언어와 구분 짓는 가장 큰 특징은 컴파일된 코드가 플랫.. 2024. 12. 31. [LLM] sLLM 학습하기 이전 내용 [LLM] GPU 효율적인 학습이전 내용 [LLM] 텍스트 분류 모델 학습시키기이전 내용 [LLM] 허깅페이스 라이브러리 사용법 익히기허깅페이스 [AI 플랫폼] 허깅페이스: AI와 머신러닝의 새로운 지평허깅페이스란? 허깅페이스(puppy-foot-it.tistory.comsLLM 학습하기(feat. 구글 코랩) 소형 언어 모델(Smaller Large Language Model)이란 그 이름에서부터 알 수 있듯이, 대형 모델에 비해 매개변수의 수가 수십억 내지 수백억대로 비교적 크기가 작은 언어 모델을 말한다.소형 언어 모델은 LLM에 비해 비용 효율적이면서 특정 작업 또는 도메인에 특화되었다. 이번에는 자연어 요청으로부터 적합한 SQL(Structured Query Language)을 생성하.. 2024. 12. 30. [LLM] GPU 효율적인 학습 이전 내용 [LLM] 텍스트 분류 모델 학습시키기이전 내용 [LLM] 허깅페이스 라이브러리 사용법 익히기허깅페이스 [AI 플랫폼] 허깅페이스: AI와 머신러닝의 새로운 지평허깅페이스란? 허깅페이스(Hugging Face)는 자연어 처리(NLP)와 머신러닝(ML)puppy-foot-it.tistory.comGPU 효율적인 학습 (feat. 구글 코랩) GPU(Graphic Processing Unit)은 딥러닝 모델처럼 연산을 빠르게 처리하는데 특화된 장치로, 최근 LLM의 등장과 함께 주목받고 있다. GPU는 한정된 메모리를 갖고 있어 LLM처럼 모델의 크기가 크면 더 많은 GPU가 필요해진다. 그러나 GPU는 가격이 비싸 풍부하게 사용이 어려워 최근에는 더 많은 사람이 발전된 AI 기술을 사용할 수 있.. 2024. 12. 30. [LLM] 텍스트 분류 모델 학습시키기 이전 내용 [LLM] 허깅페이스 라이브러리 사용법 익히기허깅페이스 [AI 플랫폼] 허깅페이스: AI와 머신러닝의 새로운 지평허깅페이스란? 허깅페이스(Hugging Face)는 자연어 처리(NLP)와 머신러닝(ML) 커뮤니티에서 가장 혁신적이고 중요한 플랫폼 중 하나puppy-foot-it.tistory.com모델 학습시키기 한국어 기사 제목을 바탕으로 기사의 카테고리를 분류하는 텍스트 분류 모델을 학습하는 실습을 진행해 본다. 먼저 실습에 사용할 데이터셋을 준비하고 모델과 토크나이저를 불러와 모델을 학습시킨다.허깅페이스 트랜스포머에서는 간편하게 모델 학습을 수행할 수 있도록 학습 과정을 추상화한 트레이너(Trainer) API를 제공하는데, 이를 사용하면 학습을 간편하게 할 수 있다는 장점이 있지만 내부.. 2024. 12. 27. [LLM] 허깅페이스 라이브러리 사용법 익히기 허깅페이스 [AI 플랫폼] 허깅페이스: AI와 머신러닝의 새로운 지평허깅페이스란? 허깅페이스(Hugging Face)는 자연어 처리(NLP)와 머신러닝(ML) 커뮤니티에서 가장 혁신적이고 중요한 플랫폼 중 하나로 자리 잡고 있다. 허깅페이스는 주로 Transformer 모델을 중심으로puppy-foot-it.tistory.com허깅페이스 모델 활용하기 허깅페이스 트랜스포머 라이브러리를 사용하면 허깅페이스 모델 허브의 모델을 쉽게 불러와 사용할 수 있다. 허깅페이스에서는 모델을 바디와 헤드로 구분하는데, 모델의 바디만 불러올 수도 있고, 헤드와 함께 불러올 수도 있다.바디 : 헤드를 제외한 모델의 부분 헤드 : 모델의 마지막 층으로 Task에 특화되어 작업에 맞는 층으로 된 부분여기서는 klue/rober.. 2024. 12. 27. [Gen AI] 스테이블 디퓨전 API (이 아닌 stability.ai API 사용법) 이전 내용 [Gen AI] 그라디오로 두 번째 챗봇 제작하기-3이전 내용 [Gen AI] 그라디오로 두 번째 챗봇 제작하기-1이전 내용 [Gen AI] 문서 요약 프롬프트 제작이전 내용 [Gen AI] 음성 변환 기술 구현해보기(STT, TTS)이전 내용 [Gen AI] 그라디오 챗봇 업그레이puppy-foot-it.tistory.com이미지 생성 AI 이미지 생성 AI란, 인공지능을 사용하여 새로운 이미지를 만들어 내는 기술을 뜻하며, 인공지능이 사용자가 입력한 텍스ㅌ트 설명을 분석하고 이해하여 그 내용에 맞는 이미지를 생성한다. 이 기술은 머신러닝과 적대적 생성 신경망(GANs), 트랜스포머 같은 딥러닝 알고리즘을 사용하여 작동한다. [적대적 생성 신경망 - GAN] [딥러닝] 비지도 학습: 생성적 .. 2024. 12. 22. [Gen AI] 그라디오로 두 번째 챗봇 제작하기-3 이전 내용 [Gen AI] 그라디오로 두 번째 챗봇 제작하기-1이전 내용 [Gen AI] 문서 요약 프롬프트 제작이전 내용 [Gen AI] 음성 변환 기술 구현해보기(STT, TTS)이전 내용 [Gen AI] 그라디오 챗봇 업그레이드그라디오로 제작한 챗봇 시리즈 [Gen AI] 그라디오로puppy-foot-it.tistory.com [Gen AI] 그라디오로 두 번째 챗봇 제작하기-2이전 내용 [Gen AI] 그라디오로 두 번째 챗봇 제작하기-1이전 내용 [Gen AI] 문서 요약 프롬프트 제작이전 내용 [Gen AI] 음성 변환 기술 구현해보기(STT, TTS)이전 내용 [Gen AI] 그라디오 챗봇 업그레이puppy-foot-it.tistory.com음성 인식봇, 문서 요약봇에 이어 일정 관리봇을 제.. 2024. 12. 21. [Gen AI] 그라디오로 두 번째 챗봇 제작하기-2 이전 내용 [Gen AI] 그라디오로 두 번째 챗봇 제작하기-1이전 내용 [Gen AI] 문서 요약 프롬프트 제작이전 내용 [Gen AI] 음성 변환 기술 구현해보기(STT, TTS)이전 내용 [Gen AI] 그라디오 챗봇 업그레이드그라디오로 제작한 챗봇 시리즈 [Gen AI] 그라디오로puppy-foot-it.tistory.com 그라디오와 랭체인을 활용해 음성 인식봇, 문서 요약봇, 일정 관리봇을 제작해 본다.문서 요약봇 제작하기 ◆ 문서 요약봇 레이아웃 구성하기탭을 제외한 문서 요약봇의 레이아웃은 아래와 같이 세로로 4블록이 쌓여 있고 각각 하나의 row로 구성되어 있다. 나중을 위해 각각의 row로 컴포넌트를 설정한다. with.gr.Tab("음성 인식봇"): .... with gr.Tab(.. 2024. 12. 21. [Gen AI] 그라디오로 두 번째 챗봇 제작하기-1 이전 내용 [Gen AI] 문서 요약 프롬프트 제작이전 내용 [Gen AI] 음성 변환 기술 구현해보기(STT, TTS)이전 내용 [Gen AI] 그라디오 챗봇 업그레이드그라디오로 제작한 챗봇 시리즈 [Gen AI] 그라디오로 챗봇 제작하기 - 1 (상담봇)이전 내용 [Gen AI]puppy-foot-it.tistory.com그라디오로 두 번째 챗봇 제작하기 위스퍼(Whisper) 음성 인식봇과 문서 요약봇, 일정 관리봇을 만들어 본다.진행 순서는 레이아웃 구성 ▶ 기능 구성 ▶ 최종 컴포넌트 연결 순으로 진행된다.레이아웃 구성 제일 상단에 공통적으로 등장하는 음성 인식봇, PDF 문서 요약, 일정 관리봇은 탭, 각 탭을 클릭하면 해당 탭과 일치하는 기능을 가진 메인 화면으로 레이아웃이 변경될 수 있도록.. 2024. 12. 20. [Gen AI] 문서 요약 프롬프트 제작 이전 내용 [Gen AI] 음성 변환 기술 구현해보기(STT, TTS)이전 내용 [Gen AI] 그라디오 챗봇 업그레이드그라디오로 제작한 챗봇 시리즈 [Gen AI] 그라디오로 챗봇 제작하기 - 1 (상담봇)이전 내용 [Gen AI] 그라디오(Gradio)이전 내용 [Gen AI] OpenAI API 사용해보puppy-foot-it.tistory.com챗GPT 문서 요약 프롬프트 제작 챗GPT를 이용해서 불러온 내용을 요약하는 프롬프트를 제작해 본다.프롬프트를 제작하기 전에 앞서, 랭체인(Langchain)과 pypdf 라이브러리 설치가 필요하다. [랭체인 설치] [Gen AI] 랭체인을 활용한 챗봇 업그레이드 - 1이전 내용 [Gen AI] 그라디오로 제작한 챗봇 허깅 페이스에 업로드하기이전 내용 [G.. 2024. 12. 20. [Gen AI] 음성 변환 기술 구현해보기(STT, TTS) 이전 내용 [Gen AI] 그라디오 챗봇 업그레이드그라디오로 제작한 챗봇 시리즈 [Gen AI] 그라디오로 챗봇 제작하기 - 1 (상담봇)이전 내용 [Gen AI] 그라디오(Gradio)이전 내용 [Gen AI] OpenAI API 사용해보기 (로컬, 주피터노트북)이전 내용 [Gen AI] OpenApuppy-foot-it.tistory.com위스퍼(Whisper) 설치 Whisper AI는 OpenAI가 개발한 강력한 음성 인식 모델이다. 다양한 오디오로 구성된 대규모 데이터셋을 학습하고 다국어 음성 인식은 물론 음성 번역과 언어 식별까지 수행할 수 있는 멀티태스크 모델이다. 이 모델을 사용하려면 whisper 라이브러리를 설치해야 한다. 필자의 경우, anaconda prompt(+가상환경)를 통해 .. 2024. 12. 19. 이전 1 2 3 4 ··· 40 다음 728x90
