딥러닝 면접 질문과 답변

Table of contents

머신러닝과 딥러닝의 차이

머신러닝은 데이터를 구문 분석하고 해당 데이터를 통해 학습한 후 정보를 바탕으로 결정을 내리기 위해 학습한 내용을 적용하는 알고리즘이다.
딥 러닝은 머신 러닝의 하위 개념이다. 실제로 머신 러닝에 해당하며 비슷한 방식으로 작동한다. 하지만 둘의 기능은 다르다.
기본 머신 러닝 모델은 그 기능이 무엇이든 점진적으로 향상되는데, 여전히 약간의 안내가 필요하다.
AI 알고리즘이 부정확한 예측을 반환하면 엔지니어가 개입하여 조정해야 한다. 딥 러닝 모델을 사용하면 알고리즘이 자체 신경망을 통해 예측의 정확성 여부를 스스로 판단할 수 있다.

딥러닝에서의 함수들

목적함수

목적 함수는 말그대로 어떠한 목적을 가지고 모델을 학습해 최적화하고자 하는 함수이다.
일반적으로 딥러닝에서는 경사 하강법(Gradient Descent) 방식을 사용하여 최적화하기 때문에 비용 함수가 바로 목적 함수가 된다.
하지만 MLE(Maximum Likelihood Estimate)와 같이 확률을 최대로 하는 방법을 사용할 경우에 감소하는 방식이 아닌 최대로 하는 방법을 할 때는 비용 함수가 아닌 목적 함수로 언급해야 한다.

비용함수

비용 함수는 입력으로 받은 데이터를 모아서 오차를 계산하는 함수를 일컫는다.
입력으로 들어온 데이터를 기반으로 모든 데이터의 비용을 계산하는 방식이다.
풀 배치 형태로 한 번에 입력을 받아 계산하는 방식이다.

손실함수

손실 함수는 입력으로 받은 데이터를 하나하나 받아 실제값과 예측값 간의 오차를 계산하는 방식이다.
입력으로 받은 데이터를 하나씩 모두 오차를 계산하는 방식인 경우를 손실 함수라 부른다.
손실 함수를 $\Sigma$를 통하여 나타낸다면 이는 바로 비용 함수라고도 할 수 있다.

데이터정규화 혹은 표준화를 하는 이유

데이터의 정규화 혹은 표준화를 하는 이유는 단순한 값의 비교가 아닌 비율에 의한 비교로 해야하기 때문이다.
예를 들어, 1000점 만점인 토익에서 400점 맞는 사람과 100점 만점인 영어시험에서 90점을 맞은 사람 중 더 잘본 사람을 선택한다면, 단순히 값으로만 본다면 토익을 보는 사람이 더 잘본 사람으로 보이게 된다.
하지만 실제로 만점의 기준이 다르기 때문에 그에 대한 비율을 맞춰 주어야한다.
이러한 정규화,표준화를 하는 것을 특성 스케일링 혹은 데이터 스케일링이라 한다.
또한 가장 중요한 이유는 scale의 범위가 너무 크면 노이즈 데이터가 생성되거나 overfitting이 될 가능성이 높아지기 때문이다.

• 정규화(Normalization)

  • 값의 범위(scale)을 0 ~ 1사이의 값으로 바꿔주는 것
  • 학습 전에 scaling하는 것
  • 머신러닝에서 scale이 큰 feature의 영향이 비대해지는 것을 방지
  • 딥러닝에서 Local Minima에 빠질 위험 감소(학습 속도 향상)
  • scikit-learn에서 MinMaxScaler사용

• 표준화(Standardization)

  • 값의 범위(scale)를 평균 0, 분산 1이 되도록 바꿔주는 것
  • 학습 전에 scaling하는 것
  • 머신러닝에서 scale이 큰 feature의 영향이 비대해지는 것을 방지
  • 딥러닝에서 Local Minima에 빠질 위험 감소(학습 속도 향상)
  • 정규분포를 표준정규분포로 변환하는 것과 같음
  • scikit-learn에서 StandardScaler