검색어를 입력해 주세요.
MachineLearning / 03 3월 2021
[CS231N] Lecture1.

Lecture1. Introduction to Deep Learning for Computer Vision.

 

1.1 컴퓨터 비전분야 속 딥러닝

1강에서는 컴퓨터 비전의 역사와 컴퓨터 비전분야에서의 딥러님의 역사를 설명한다. 컴퓨터 비전의 개념적 출발점이라고 할 수 있는 허블(Huble)과 비셀(Wisel)의 고양이 뇌 실험(1959)부터 AI의 암흑기를 거쳐 2012년 Alex net 이후부터 오늘날의 CNN(convolutional neural network)에 이르기까지 어떻게 발전해 왔는지를 얘기하고, 앞으로 컴퓨터 비젼 분야의 발전 가능성에 대한 소개이다.

 

본격적인 머신러닝에서 딥러닝으로의 강의는 2강부터 이어진다.

1강에서 이해하고 넘어가면 좋을 부분은 컴퓨터 비전이 머신러닝 부분에서 이룬 성과와 우리가 이 강의를 통해서 공부할 부분이 AI분야의 어느 위치의 공부인지 인덱스를 확인하는 것과, 허블과 비셀의 고양이 실험이 의미하는 부분이다.

 

 

1.2 허블과 비셀실험

([참고자료: 딥러닝 일러스트레이티드 p.4~8], 본문PDF )

허블과 비셀은 투광기를 사용해 마취된 고양이에게 슬라이드를 보여주면서 고양이의 시각피질에 있는 뉴런의 활동을 기록했습니다. 이 실험은 오래전 실험의 환경이 지금과 달리 사람이 수동적으로 슬라이드를 교체해야하는 환경 때문에 우연히 얻어진 결과 에서 비롯됩니다.  허블과 비셀의 초기 실험결과는 실망스러웠습니다. 간단한 모양의 슬라이드를 고양이에게 보여주었으나, 시각피질의 뉴런은 아무런 반응도 하지 않았습니다. 고양이의 시각적 자극을 위해 팔을 휘두르는 등의 동작을 해 보았지만, 아무런 결과도 얻을 수 없었습니다. 그러나 우연히 영사기에서 슬라이드를 교체하는 작업이 있는 순간, 고양이 뇌에 심어둔 전기 기록장치가 틱틱 소리를 내는 것을 발견하였습니다. 이 틱틱 소리는 일차 시각피질의 뉴런이 활성화 되었다는 것을 의미합니다. 이들은 추가 실험을 통해 눈에서 시각정보가 입력받은 뉴런이 일반적으로 단순한 직선 모서리(edge)에 제일 민감하게 반응한다는 것을 발견했습니다.

그들은 이 세포에 단순뉴럴(simple neuron)이란 이름을 붙였고, 이 단순뉴럴 반응이 특정 방향의 모서리에 최적화 되어 있다는 것을 알아냈습니다. 특정모서리 방향을 전문으로 감지하는  단순뉴런이 많이 모이면 360도 회전을 표현할 수 있고, 이런 모서리- 회전 감지 뉴런은 정보를 다수의 복잡한 뉴런(complex neuron)에 전달합니다. 복잡한 뉴런은 단순한 유런이 이미 처리한 시각 정보를 받기 때문에 여러 방향의 직선을 더 복잡한 모양으로 연결 할 수 있습니다.

 

이제 이 1959년의 고양이 실험이 어떻게 딥러닝으로 이어졌는지 미리 살펴보겠습니다. 사실 이 노트를 처음부처 본 사람이라면, 베이직 지식으로 이미 짐작 할 수 있을 것입니다.

 

 

 

딥러닝 일러스트레이티드 page.5

위와 같이 시각정보를 인식하는 생물학적 개념은 앞서 읽어보기를 권했던 딥러닝 컨볼루셔널 네트워크를 이미지 인식의 개념(조대협님의 블로그)의 컨볼루셔널 레이어의  이미지 필터링 과정과 유사합니다. CS231n의 7강에서 다룰내용과 이어집니다.

딥러닝 일러스트레이티드 page.12
Lecture7.슬라이드 29page

컨볼류션 레이어를 통과하여 나온 결과물이 고양이 실험과 이어지는 것처럼 생각되시나요?

컴퓨터 비젼에서 딥러닝은 이미지 데이터로로부터 edge의 여러 방향적 특징을 뽑아낸 결과물을 가지고 학습하여 예측합니다.

 

 

1.3 컴퓨터 비전기기술의 미래

 

강의에서는 보다 다양한 방법으로 이미지의 Feature를 인식하여 여러 분야에 적용하는 사례들을 발전 과정을 통해 설명하고 있습니다. 잠시 다음 강의부터 사용하게될 CIFAR10의 이미지 분류에 관한 배경지식을 짚고 넘어가는게 좋겠습니다. CIFAR는 캐나다의 제프리 힌튼(Geoffrey Hinton)교수의 연구소 CIFAR(Canadian Institute for Advanced Research)를 이야기 합니다.

제프리 힌튼교수는 심층 신뢰 신경망(Deep Belief Network, DBN)이라는 딥러닝에 매우 효과적인 알고리즘에 관한 논문을 발표하면서 딥러닝의 긴 암흑기의 전환점을 불러일으킨 인물이죠. 우리가 잘 알고있는 이미지넷의 2012년 우승모델인 AlexNet이 힌튼교수의 연구실에 있던 Alex라는 박사과정의 학생에 의해 만들어진 것입니다.

출처 : https://sunnyyanolza.tistory.com/18

Copyright © 2020 eloicube inc. All rights reserved.