728x90 [파이썬 Projects]/<파이썬 딥러닝, 신경망>42 [딥러닝] 강화 학습(RL): Q-러닝 이전 내용 강화 학습(Reinforcement Learning, RL)은 기계 학습의 한 분야로, 에이전트가 환경과 상호작용하여 보상을 최대화할 수 있는 행동을 학습하는 방법이다. 다양한 상황에서 의사 결정을 하는 방법을 배우고, 결과에 따라 조정하는 과정을 통해 성능을 향상시킨다. 강화 학습은 특히 동적이고 복잡한 환경에서 최적의 전략을 찾는 데 유용하다.강화 학습에서 소프트웨어 에이전트는 관측을 하고 주어진 환경에서 행동을 한다. 그리고 결과에 따라 환경으로부터 보상을 받는다. 에이전트의 목적은 보상의 장기간 기대치를 최대로 만드는 행동을 학습하는 것이다. 긍정적 보상은 기쁨으로, 부정적 보상은 아픔으로 생각할 수 있다. 즉, 에이전트는 환경 안에서 행동하고 시행착오를 겪으며 기쁨이 최대가 되고 아픔.. 2024. 12. 6. [딥러닝] RNN 자연어 처리: 어텐션 매커니즘, 트랜스포머 이전 내용 [딥러닝] RNN을 사용한 자연어 처리: 신경망 기계 번역이전 내용 [딥러닝] RNN을 사용한 자연어 처리: 감성분석이전 내용 [딥러닝] RNN을 사용한 자연어 처리이전 내용 [딥러닝] RNN & CNN(feat. 시카고 교통국 데이터셋) - 3이전 내용 [딥러닝] RNN & CNN(feapuppy-foot-it.tistory.com어텐션 매커니즘 어텐션 메커니즘은 RNN 또는 다른 시퀀스 모델에서 주로 사용되며, 긴 시퀀스를 처리할 때 중요한 요소를 선택적으로 집중하는 방법이다. 이는 모델이 모든 입력 정보를 동일하게 처리하지 않고, 특정 시점에 중요한 정보를 강조하여 더 나은 성능을 발휘할 수 있도록 한다.어텐션 매커니즘은 훈련 가능한 메모리 검색 시스템으로, 이 시스템은 매우 강력하기 .. 2024. 12. 6. [딥러닝] RNN을 사용한 자연어 처리: 신경망 기계 번역 이전 내용 [딥러닝] RNN을 사용한 자연어 처리: 감성분석이전 내용 [딥러닝] RNN을 사용한 자연어 처리이전 내용 [딥러닝] RNN & CNN(feat. 시카고 교통국 데이터셋) - 3이전 내용 [딥러닝] RNN & CNN(feat. 시카고 교통국 데이터셋) - 2이전 내용 [딥러닝] RNN & Cpuppy-foot-it.tistory.com신경망 기계 번역(NMT, neural machine translation) 신경망 기계 번역(NMT, Neural Machine Translation)은 인공 신경망을 사용하여 한 언어에서 다른 언어로 텍스트를 자동으로 번역하는 기술을 말한다. NMT는 번역의 일관성과 품질을 향상시키기 위해 딥러닝 기술을 사용한다.- NMT의 주요 개념 및 구성 요소인코더-디.. 2024. 12. 5. [딥러닝] RNN을 사용한 자연어 처리: 감성분석 이전 내용 [딥러닝] RNN을 사용한 자연어 처리이전 내용 [딥러닝] RNN & CNN(feat. 시카고 교통국 데이터셋) - 3이전 내용 [딥러닝] RNN & CNN(feat. 시카고 교통국 데이터셋) - 2이전 내용 [딥러닝] RNN & CNN(feat. 시카고 교통국 데이터셋) - 1이전 내용puppy-foot-it.tistory.com감성 분석 이전에 수행했던 IMDb 영화 리뷰 데이터셋을 통해 감성분석을 수행해본다. [머신러닝] 텍스트 분석: 감성 분석텍스트 분석이란? [머신러닝] 텍스트 분석이전 내용 [머신러닝] 군집화 (Clustering)군집화(Clustering) [군집]군집은 비슷한 샘플을 클러스터 또는 비슷한 샘플의 그룹으로 할당하는 작업으로, 데이puppy-foot-it.tisto.. 2024. 12. 5. [문제 해결] 주피터노트북에 GPU 연결하기 GPU vs CPU출처: 챗GPT ◆ CPU (Central Processing Unit) - 특징 CPU는 범용 프로세서로, 다양한 작업을 처리하는 데 최적화되어 있습니다. 소수의 강력한 코어를 가지고 있어 다중 작업 처리에 적합합니다. -성능CPU는 단순 연산 작업에는 적합하지만, 연산량이 많은 딥러닝 작업에서는 속도가 느립니다. 데이터 전송 속도가 상대적으로 느리고, 병렬 처리에 한계가 있습니다. - 적용 사례CPU는 주로 데이터 전처리, 모델 초기 설정 및 간단한 추론 작업에 사용됩니다. ◆ GPU (Graphics Processing Unit) - 특징GPU는 대량의 연산을 동시에 처리할 수 있도록 설계된 특수 프로세서입니다. 수천 개의 작은 코어를 가지고 있어 병렬 처리에 매우 유리합니다... 2024. 12. 4. [딥러닝] 강화 학습(Reinforcement Learning) - 1 이전 내용 [딥러닝] 비지도 학습: 오토인코더, GAN, 확산 모델이전 내용 오토인코더 오토인코더는 지도 방식을 사용하지 않고 잠재 표현 또는 입력 데이터의 밀집 표현(코딩)을 학습할 수 있는 인공 신경망이다. 코딩은 일반적으로 입력보다 훨씬 낮은 차puppy-foot-it.tistory.com강화 학습(Reinforcement Learning, RL) 강화 학습(Reinforcement Learning, RL)은 기계 학습의 한 분야로, 에이전트가 환경과 상호작용하여 보상을 최대화할 수 있는 행동을 학습하는 방법이다. 다양한 상황에서 의사 결정을 하는 방법을 배우고, 결과에 따라 조정하는 과정을 통해 성능을 향상시킨다. 강화 학습은 특히 동적이고 복잡한 환경에서 최적의 전략을 찾는 데 유용하다. 강화.. 2024. 12. 4. [딥러닝] 비지도 학습: 확산 모델 오토인코더, GAN, 확산 모델 [딥러닝] 비지도 학습: 오토인코더, GAN, 확산 모델이전 내용 오토인코더 오토인코더는 지도 방식을 사용하지 않고 잠재 표현 또는 입력 데이터의 밀집 표현(코딩)을 학습할 수 있는 인공 신경망이다. 코딩은 일반적으로 입력보다 훨씬 낮은 차puppy-foot-it.tistory.com확산 모델(Diffusion Model) 확산 모델은 데이터의 점진적 변환 과정을 통해 고품질의 샘플을 생성하는 확률적 모델이다. 특히, 잡음 제거 확산 모델(Denoising Diffusion Probabilistic Models, DDPM)은 딥러닝 기반의 이미지 생성 기술 중 눈에 띄는 접근법이다. 1. 확산 모델 (Diffusion Models)확산 모델은 데이터의 분포를 모델링하고 .. 2024. 12. 4. [딥러닝] 비지도 학습: 적대적 생성 신경망(GAN) 오토인코더, GAN, 확산 모델 [딥러닝] 비지도 학습: 오토인코더, GAN, 확산 모델이전 내용 오토인코더 오토인코더는 지도 방식을 사용하지 않고 잠재 표현 또는 입력 데이터의 밀집 표현(코딩)을 학습할 수 있는 인공 신경망이다. 코딩은 일반적으로 입력보다 훨씬 낮은 차puppy-foot-it.tistory.com적대적 생성 신경망(GAN) GAN은 생성자, 판별자라는 신경망 두 개로 구성된다.생성자: 랜덤한 분포(일반적으로 가우스 분포)를 입력으로 받고 이미지와 같은 데이터를 출력한다. 랜덤한 입력은 생성할 이미지의 잠재 표현(코딩)으로 생각할 수 있다. 생성자는 변이형 오토인코더의 디코더와 같은 기능을 제공하여 동일한 방식으로 새로운 이미지를 생성할 수 있다. (가우스 잡음 주입하여 새로운 이미지 .. 2024. 12. 4. [딥러닝] 비지도 학습: 오토인코더 오토인코더, GAN, 확산 모델 [딥러닝] 비지도 학습: 오토인코더, GAN, 확산 모델이전 내용 오토인코더, GAN, 확산 모델 ◆ 오토인코더오토인코더는 지도 방식을 사용하지 않고 잠재 표현 또는 입력 데이터의 밀집 표현(코딩)을 학습할 수 있는 인공 신경망이다. 코딩은 일반puppy-foot-it.tistory.com과소완전 선형 오토인코더로 PCA 수행하기 오토인코더가 선형 활성화 함수만 사용하고 비용 함수가 평균 제곱 오차(MSE)라면, 이는 주성분분석(PCA)을 수행하는 것으로 볼 수 있다. 아래는 3D 데이터셋에 PCA를 적용해 2D에 투영하는 간단한 선형 오토인코더를 만드는 예다.tf.random.set_seed(42)# 인코더 모델 정의encoder = tf.keras.Sequential(.. 2024. 12. 3. [딥러닝] 비지도 학습: 오토인코더, GAN, 확산 모델 이전 내용 주피터노트북에서 tensorflow GPU 사용하기 [문제 해결] 주피터노트북에 GPU 연결하기GPU vs CPU출처: 챗GPT ◆ CPU (Central Processing Unit) - 특징 CPU는 범용 프로세서로, 다양한 작업을 처리하는 데 최적화되어 있습니다. 소수의 강력한 코어를 가지고 있어 다중 작업 처리에 적합합puppy-foot-it.tistory.com오토인코더 오토인코더는 지도 방식을 사용하지 않고 잠재 표현 또는 입력 데이터의 밀집 표현(코딩)을 학습할 수 있는 인공 신경망이다. 코딩은 일반적으로 입력보다 훨씬 낮은 차원을 가지므로 오토인코더는 차원 축소, 시각화에 유용하게 사용된다.일부 인코더는 훈련 데이터와 매우 비슷한 새로운 데이터인 생성 모델을 생성할 수 있다. 생.. 2024. 12. 3. [딥러닝] RNN을 사용한 자연어 처리 이전 내용 [딥러닝] RNN & CNN(feat. 시카고 교통국 데이터셋) - 3이전 내용 [딥러닝] RNN & CNN(feat. 시카고 교통국 데이터셋) - 2이전 내용 [딥러닝] RNN & CNN(feat. 시카고 교통국 데이터셋) - 1이전 내용 [딥러닝] 객체 탐지, 객체 추적이전 내용 [딥러닝] 케라스의puppy-foot-it.tistory.comChar-RNN ◆ Char-RNN(문자 기반 순환신경망)Char-RNN은 문자 단위(Character-level)로 텍스트 데이터를 생성하거나 예측하는 순환 신경망(RNN) 모델로, 이 모델은 텍스트를 단어 단위가 아닌 문자 단위로 처리하며, 텍스트 생성, 언어 모델링, 문서 분류 등의 다양한 자연어 처리 문제에 사용된다. - 주요 특징 문자 단위 .. 2024. 12. 2. [딥러닝] RNN & CNN(feat. 시카고 교통국 데이터셋) - 3 이전 내용 [딥러닝] RNN & CNN(feat. 시카고 교통국 데이터셋) - 2이전 내용 [딥러닝] RNN & CNN(feat. 시카고 교통국 데이터셋) - 1이전 내용 [딥러닝] 객체 탐지, 객체 추적이전 내용 [딥러닝] 케라스의 사전 훈련 모델 사용하기이전 내용 [딥러닝] 합성곱 신경망puppy-foot-it.tistory.com긴 시퀀스를 다룰 때 두 문제 긴 시퀀스로 RNN을 훈련하려면 많은 타임 스텝에 걸쳐 실행해야 하므로 펼친 RNN이 매우 깊은 네트워트가 된다. 다른 심층 신경망과 마찬가지로 그레이디언트 소실과 폭주 문제를 겪을 수 있는데, 이는 훈련하는 데 아주 오랜 시간이 걸리거나 훈련이 불안정할 수 있음을 의미한다. 또한 RNN이 긴 시퀀스를 처리할 때 입력의 첫 부분을 조금씩 잊게.. 2024. 12. 2. [딥러닝] RNN & CNN(feat. 시카고 교통국 데이터셋) - 2 이전 내용 [딥러닝] RNN & CNN(feat. 시카고 교통국 데이터셋) - 1이전 내용 [딥러닝] 객체 탐지, 객체 추적이전 내용 [딥러닝] 케라스의 사전 훈련 모델 사용하기이전 내용 [딥러닝] 합성곱 신경망을 사용한 컴퓨터 비전이전 내용 [딥러닝] 텐서플로 데이터셋puppy-foot-it.tistory.com윈도와 타깃 윈도(Window)윈도는 시계열 데이터나 순차 데이터에서 일정한 길이의 연속된 데이터 조각을 의미한다. RNN은 데이터를 순차적으로 처리하기 때문에 데이터를 적절한 크기로 나누어 입력해야 한다. 이때 사용되는 데이터의 부분 집합을 윈도라고 한다. 윈도의 예만약 주식 시장 데이터를 분석할 때 최근 10일간의 주가를 입력으로 사용한다면, 윈도의 크기는 10이 된다.텍스트 데이터를 처리할.. 2024. 12. 1. [딥러닝] RNN & CNN(feat. 시카고 교통국 데이터셋) - 1 이전 내용 [딥러닝] 객체 탐지, 객체 추적이전 내용 [딥러닝] 케라스의 사전 훈련 모델 사용하기이전 내용 [딥러닝] 합성곱 신경망을 사용한 컴퓨터 비전이전 내용 [딥러닝] 텐서플로 데이터셋 프로젝트텐서플로 [머신러닝] 텐서플로(Tepuppy-foot-it.tistory.com순환 신경망(recurrent neural network, RNN) RNN은 웹 사이트의 일일 활성 사용자 수, 도시의 시간별 기온, 가정의 일일 전력 소비량, 주변 차량의 궤적 등과 같은 시계열 데이터를 분석할 수 있다. 데이터에서 과거 패턴을 학습한 RNN은 과거 패턴이 미래에도 여전히 유효하다고 가정하고 그 지식을 사욯아여 미래를 예측할 수 있다.일반적으로 RNN은 고정 길이 입력이 아닌 임의 길이의 시퀀스를 다룰 수 있는데,.. 2024. 11. 30. [딥러닝] 객체 탐지, 객체 추적 이전 내용 [딥러닝] 케라스의 사전 훈련 모델 사용하기이전 내용 [딥러닝] 합성곱 신경망을 사용한 컴퓨터 비전이전 내용 [딥러닝] 텐서플로 데이터셋 프로젝트텐서플로 [머신러닝] 텐서플로(TensorFlow)란?텐서플로(TensorFlow)란? 텐서플로(TensorFlow)는 구puppy-foot-it.tistory.com객체 탐지 ◆ 객체 탐지: 하나의 이미지에서 여러 물체를 분류하고 위치를 추정하는 작업이전에 널리 사용되던 방법은 이미지 중앙에 놓인 하나의 물체를 분류하고 위치를 찾는 CNN을 훈련한 다음 이 CNN으로 이미지 위를 훑으면서 각 위치에서 예측을 만드는 것이다. 이 CNN은 일반적으로 클래스 확률과 바운딩 박스 외에도 객체성 점수를 에측하도록 훈련된다.※ 객체성 점수: 이미지의 중앙부에 .. 2024. 11. 29. 이전 1 2 3 다음 728x90
