반응형 theory 📓17 Shallow neural network 신경망의 구성 (Neural Network Representation)- 신경망은 입력층(input layer), 은닉층(hidden layer), 출력층(output layer)으로 구성- 각 층에서 뉴런들은 가중치와 바이어스를 통해 연결, 활성화 함수에 따라 비선형 변환을 수행함 활성화 함수 (Activation Functions)- 신경망에서 비선형성을 도입하는 하여 모델이 복잡한 문제를 학습도록 도와줌- Sigmoid 함수 : 출력값을 0과 1사이로 제한하여 확률로 해석, 입력이 아주 크거나 작을때 기울기가 거의 0에 가까워지는 기울기 소실 문제 있음- Tanh 함수 : 시그모이드 함수의 변형으로 -1에서 1사이의 값을 출력하며,.. 2024. 11. 6. Logistic Regression 로지스틱 회귀 퍼셉트론- 인공신경망의 기본 단위- 입력 데이터에 가중치를 곱하고, 결과값이 임계값을 넘으면 활성화 되어 1을 출력, 그렇지 않으며 0 출력 Adaline (Adaptive Linear Neuron)- 아달린은 퍼셉트론을 발전시킨 모델로, 연속적인 출력 값을 가짐- 아달린은 퍼셉트론과 비슷하게 작동하지만, 활성화 함수가 없고, 선형함수를 사용하여 출력값을 계산- 학습 과정에서 실제 출력과 목표 출력 간의 오차를 최소화하는 방식으로 가중치를 조정하는데, 경사하강법을 사용함 로지스틱 회귀 개념- 로지스틱 회귀는 이진분류(Binary Classification)에 사용되는 모델로, 주어진 데이터가 특정 클래스에 속할 확률을 추정함- 확.. 2024. 11. 6. 머신러닝 과 딥러닝 머신러닝과 딥러닝- 머신러닝은 대규모 데이터를 활용해 컴퓨터가 자동으로 학습하는 과정- 딥러닝은 인공신경망을 바탕으로 한 머신러닝의 한 분야로, 복잡한 문제를 높은 성능으로 처리할 수 있음- 슈퍼바이즈드 러닝 : 레이블 O ex) 이미지 분류, 광고 클릭 예측 등- 언슈퍼바이즈드 러닝 : 레이블 X ex) 군집화- 강화학습 : 정답 대신 보상을 통해 학습 딥러닝의 필요성 및 발전 요소- 딥러닝은 데이터의 양, 계산 능력, 알고리즘의 발전에 의해 큰 성과를 이룸- 하이퍼파라미터 튜닝과 정규화 : 신경망 성능을 개선하는 주요 요소- 딥러닝 모델의 구조화 : 학습 데이터의 분할, 테스트 데이터 활용, 엔드-투-엔드 딥러닝 실.. 2024. 11. 6. [자료구조/알고리즘] python 다이나믹프로그래밍 개념 및 예제 들어가기 전에...최근 진행한 코딩테스트에서, 문제를 풀다 테스트 케이스 몇개에서 실패를 경험하였다.복기를 해보니, 문제의 느낌만 보고 그리디 알고리즘을 통해 구현을 진행한것이 원인이였다.해당 그리디 알고리즘을 통해 순간에서 최선의 선택을 통해 구현을 하다보니,최적의 해를 놓치는 케이스가 발생하였고,이를 해결하기 위한 적합한 방식은 모든 경우의 수에서 최적의 해를 구하는 것이였다.이를 효과적으로 하기 위한 알고리즘은 다이나믹 프로그래밍이였으며, 이번 기회에 정리하고자 한다.다이나믹 프로그래밍복잡한 문제를 작은 문제로 나누어 해결하는 방법이미 계산한 작은 문제의 답을 기억해 두었다가 재사용이렇게 하면, 같은 계산을 반복하지 않아도 되기 떄문에 효율적메모리 공간을 조금 더 사용하지만, 수행 시간을 획기적으로.. 2024. 9. 30. [자료구조/알고리즘] python 스택, 큐, 우선순위 큐 개념 및 예제 스택 (stack)선입 후출 형식으로, 나중에 들어오는 데이터를 제일 먼저 반환하는 방식파이썬에서는 리스트에 append 후 pop 함수를 통해 구현 가능append 를 통해 리스트에 순서대로 데이터를 적재pop 함수를 통해 가장 마지막에 들어온 데이터를 추출예제)# stackdef sol(s): check = [] for i in s: if i == '(': check.append(i) else: try: check.pop() except: return False else: if len(check) != 0: retur.. 2024. 9. 27. [알고리즘] 탐욕 알고리즘 (Greedy Algorithm) 탐욕 알고리즘이란? Greedy 단어의 뜻처럼 * 탐욕스러운, 욕심 많은 선택의 순간마다 당장 눈앞에 보이는 최적의 상황만을 쫒아 최종적인 해당에 도달 하는 방법이다. 탐욕 알고리즘은 최적의 해를 구하는 데 있어 근사적인 방법이다. 여러 경우 중 하나를 결정해야 할 때마다, 그 순간에 최적이라고 생각되는 것을 선택해 나가는 방식으로 진행한다. 순간마다 선택 함으로써, 그 순간에 대해 지역적으로는 최적이지만, 그 선택들이 계속 진행되어 최종적(전역적)인 해답을 도출하였다 하더라도, 그것이 최적이라는 보장은없다. 하지만 탐욕 알고리즘을 적용할 수 있는 문제들은 지역적으로 최적이면서 전역적으로 최적인 문제들이다. 탐욕 알고리즘 해결 방법 선택 절차(Selection Procedure): 현재 상태에서의 최적의.. 2023. 8. 21. [자료구조/알고리즘] 자료구조에 대해 개요 자료구조의 학습의 목적 - 데이터를 체계적으로 저장하고, 효율적으로 활용하기 위해 경험에 따르면 특정한 패턴이 있는 상황들이 빈번하게 발생하게 된다. 이러한 특정 패턴의 문제를 해결하는데 있어, 보다 빠르고 정확하게 해결하기 위해 학습을 한다. 또한 우리에게 주어진 자원(메모리, cpu) 등은 한정적이다. 이러한 제약적인 상황에서 메모리 공간을 효율적으로 사용하고, 실행 시간의 효율성을 고려하여 최대한의 아웃풋을 끌어내기 위해 필요하다. 모든 패턴에서 맞는 자료구조는 없다 따라서 각 자료구조가 갖는 장점과 한계를 알고 학습하는 것이 중요하다. 자료구조란? 간단하게 여러 데이터들의 묶음을 저장하고, 사용하는 방법을 정의 즉 데이터 값의 모임 이다. 좀 더 상세 하게 들어가보면 먼저 데이터를 정의해보자.. 2023. 8. 21. 이전 1 2 다음 반응형
