Forward-Forward 알고리즘: 몇 가지 예비 조사
제프리 힌튼(구글 브레인)
2022년 12월 27일
역전파에 어떤 문제가 있나요?
역전파 덕분에 우리가 얻은 수학적 이점에도 불구하고 논문은 역전파가 실제 피질이 훈련되는 방식을 고려할 때 믿을 수 없는 방법이라고 주장합니다. Cortex는 역전파와 같은 상향식 연결을 반영하지 않습니다. 대신 피질층을 반복합니다(신경과학에 너무 깊이 들어가지 말자). 이것은 이전 단계의 표현이 영향을 받는다는 것을 의미하지 않습니다. 표현 이후 단계는 말도 안됩니다. 그러나 피드백 프로세스는 상향식(Bottom-up)이 아니라 하향식(Top-down)이어야 합니다. 또한, 역전파를 수행하기 위해 멈추지 않고 추론 및 학습 과정이 실시간으로 진행되어야 합니다.
정방향 알고리즘
포워드 알고리즘은 인공 신경망이 어땠어야 했는지에 대한 반대 개념을 제안하는 예비 조사를 위한 미성숙한 아키텍처입니다. 역전파는 순방향 패스와 역방향 패스를 사용하지만, 정방향 알고리즘 두 개의 포워드 패스를 사용합니다. 전자 패스는 양수(즉, 실제) 데이터로 구성되고 후자는 음수 데이터로 구성됩니다. 각 은폐는 “선함”이라는 척도와 관련된 데이터의 영향을 받습니다. 친절은 다양한 방식으로 다양한 작업에 적용할 수 있습니다.
역전파의 주요 한계는 순방향 패스에 대한 완전한 지식이 필요하다는 것입니다. 따라서 미분을 완벽하게 계산할 수 없을 때마다 강화 학습에 크게 의존하는 경향이 있습니다. 그러나 강화 학습 방법은 높은 수준의 분산으로 어려움을 겪습니다. 이 연구의 요점은 알려지지 않은 비선형성을 포함하는 신경망이 강화 학습에 의존할 필요가 없음을 보여주는 것입니다. 두 가지 주요 이점 정방향 알고리즘 다음과 같다:
1. 블랙박스 설정이 정방향 계산으로 되어 있어도 사용 가능합니다.
2. 저장하거나 일시 중지하지 않고 순차 데이터를 파이프라인할 때 학습하는 기능.
나머지 내용은 방법에 관한 것입니다. 정방향 알고리즘 기존 역전파 알고리즘에 대해 경쟁력을 유지할 수 있습니다. 정방향 알고리즘 모델이 Cortex가 학습하는 방식과 유사하고 초저전력 아날로그 하드웨어 환경에서 강화 학습이 필요하지 않기 때문에 더 우수할 수 있습니다.
인공 신경망 대 피질
인공 지능은 인간의 생각을 모델로 합니다. 따라서 사실상 인공신경망의 궁극적인 목표는 피질이다. 정방향 알고리즘의 성능이 아직 만족스럽지 않고 개념이 추상적이고 모호해 보이더라도 알고리즘은 수천 개의 후속 작업에 대한 중요한 예비 연구가 될 수 있습니다.