클래스: 인공지능 소개

무료이용으로 수강해 보세요.

업계 전문가가 강의하는 클래스 23,100개를 수강하세요.

활성화 편향

활성화 편향

클래스: 인공지능 소개

1개월 무료이용 시작 단체용 구매

활성화 편향

“

- 인공 신경망은 스스로 튜닝됩니다. 이게 악기와 같다는 것을 이미 알고 계시죠. 완벽한 음표의 출력을 비교한 다음 이 사운드에 맞게 자체 다이얼을 비틀어줍니다. 그러나 결국 인공 신경망은 여전히 머신러닝의 한 형태입니다. 즉, 시스템 학습을 돕기 위해 동일한 도구와 기술을 많이 사용한다는 의미입니다. 인공 신경망이 연결에 가중치를 더해 자체 조정하지만 이런 연결에 가중치를 추가하면 분산만 수정된다는 것을 이미 확인했죠. 앞서 시스템이 불스아이 근처의 촘촘한 클러스터에 다트를 던지려고 한다는 것을 기억하세요. 네트워크는 다트를 던진 다음 올바른 예측에 얼마나 가까운지 측정합니다. 그런 다음 가중치를 조정하고 다른 다트를 던져 이번이 더 가까운지 확인합니다. 예측을 할 때는 데이터의 편향과 분산의 균형을 맞춰야 한다는 점을 기억하세요. 이를 편향 분산 트레이드오프라고 합니다. 따라서 분산을 조정하면 편향에 영향을 미칩니다. 인공 신경망에서 편향은 시스템이 각 뉴런에 할당하는 숫자입니다. 이 편향 수치는 데이터를 더 정확하게 만들기 위해 데이터를 다른 방향으로 이동시킵니다. 네트워크는 데이터 편향과 데이터 분산 사이의 최적점을 찾기 위해 자체적으로 조정되어야 합니다. 자체 조정해야 하는 기본 다이얼은 연결에 가중치를 추가하고 뉴런에 편향을 추가하는 것입니다. 때로는 인공 신경망이 이러한 튜닝 과정을 거치도록 만드는 게 기불이 좋지 않을 수도 있습니다. 분산 확산을 줄이기 위해 연결의 가중치를 조정하지만 이로 인해 대상에서 약간 멀어집니다. 그런 다음 이동을 수정하기 위해 편향을 추가하지만 이로 인해 데이터가 다시 분산됩니다. 인간은 이것이 매우 실망스럽다고 생각할 것입니다. 이는 기계가 촘촘한 형태로 다트를 던지려는 동시에 편향을 사용하여 전체 다트판을 불스아이에 더 가깝게 이동시키려는 것과 같습니다. 게다가 인공 신경망은 데이터에 과적합되는 경향이 있죠. 과적합은 시스템이 훈련할 때 많은 복잡성을 추가하는 경우라는 점을 기억하세요. 따라서 인공 신경망이…

목차