Programming

인공 신경 네트워크에 대해 배우기위한 좋은 자료는 무엇입니까?

procodes 2020. 8. 4. 19:36
반응형

인공 신경 네트워크에 대해 배우기위한 좋은 자료는 무엇입니까? [닫은]


인공 신경망에 관심이 있지만 시작할 곳을 찾고 있습니다.

어떤 자원이 있으며 좋은 시작 프로젝트는 무엇입니까?


다음은 Neural Net 프로그래밍의 예입니다. http://www.codeproject.com/KB/recipes/neural_dot_net.aspx

여기에서 읽을 수 있습니다 : http://web.archive.org/web/20071025010456/http://www.geocities.com/CapeCanaveral/Lab/3765/neural.html

나는 그 부분에 대한 과정을 방문하여 몇 가지 문헌을 연구했습니다.


우선 인공 신경 네트워크가 뇌와 관련이 있지만 생물학적 뉴런 네트워크와 유사하다는 개념을 포기하십시오. 생물학 학습은 신경망을 효과적으로 적용하는 데 도움이되지 않습니다. 선형 대수학, 미적분학 및 확률 이론 학습. 최소한 함수의 기본 미분, 연쇄 법칙, 부분 도함수 (구배, Jacobian 및 Hessian), 행렬 곱셈 및 대각선 화에 대한 이해에 익숙해 져야합니다.

실제로 네트워크를 훈련 할 때 수행하는 작업은 대규모의 다차원 기능을 최적화하는 것 (네트워크의 각 가중치에 대한 오류 측정을 최소화 함)이므로 비선형 수치 최적화 기술을 조사하는 것이 도움이 될 수 있습니다. 이것은 신경망 외부의 많은 문헌을 가지고 광범위하게 연구 된 문제이며, 웹에서 수치 최적화에 관한 강의 노트가 많이 있습니다. 시작하기 위해, 대부분의 사람들은 간단한 기울기 하강을 사용 하지만, 더 미묘한 방법보다 훨씬 느리고 덜 효과적 일 수 있습니다.

기본 아이디어를 얻은 후에는 숨겨진 계층에서 다양한 "스 쿼싱"기능을 실험하고 다양한 종류의 정규화를 추가하고 학습 속도를 높이기 위해 다양한 조정을 수행 할 수 있습니다. 포괄적 인 "모범 사례"목록은 이 백서참조하십시오 .

이 주제에 관한 최고의 책 중 하나는 Chris Bishop의 패턴 인식을위한 신경망 입니다. 이 단계에서 상당히 오래되었지만 여전히 훌륭한 자료이며, 종종 약 30 달러에 온라인에서 중고 사본을 찾을 수 있습니다. 그의 새로운 저서 인 Pattern Recognition and Machine Learning 의 신경망 장도 매우 포괄적입니다. 특히 우수한 구현 중심 자습서 는 컨볼 루션 네트워크 (convolutional network)라고하는 영리한 종류의 네트워크를 구현하는 CodeProject.com의이 자습서를 참조하십시오.이 패턴은 시각적 패턴을 분류하는 방법을 배우는 데 매우 좋은 방식으로 연결을 제한합니다.

지원 벡터 머신과 기타 커널 메소드는 대체 무슨 일을하는지 모르고 적용 할 수 있고 종종 수용 가능한 결과를 얻을 수 있기 때문에 매우 인기가 있습니다. 반면 신경망은 많은 문제, 특히 컴퓨터 비전과 같은 도메인의 대규모 문제에 여전히 바람직하지만 신중한 조정이 필요한 거대한 최적화 문제입니다.


Code Project 에서 Anoop Madhusudanan의이 훌륭한 시리즈를 강력히 추천합니다 .

그는 그들이 어떻게 작동하는지 이해에 기초를 안내 방법을 이해하기 쉽게 자신의 사용하는 방법을 보여줍니다 당신 brainnet자신을 만들 라이브러리를.


신경 네트워크는 요즘에는 일종의 분류가 해제됩니다. 지원 벡터 시스템커널 메소드 는 역 전파보다 더 많은 클래스의 문제점에 적합합니다. 신경망과 유전자 알고리즘은 현대 기계 학습에 대해 잘 모르지만 최신 기술이 아닌 사람들의 상상력을 사로 잡습니다.

AI 및 기계 학습에 대해 더 자세히 알고 싶다면 Peter Norvig의 인공 지능 : 현대적 접근을 읽으십시오 . AI와 많은 현대 기술에 대한 광범위한 조사입니다. 그것은 역사와 오래된 기술도 다루며 AI와 기계 학습의 기초에 더 완벽한 기초를 제공 할 것입니다.

신경망은 꽤 쉽다. 특히 유전자 알고리즘을 사용하여 가중치를 결정하는 경우 적절한 역 전파를 사용하십시오.


Chris Bishop의 패턴 인식위한 신경망에 대한 dwf두 번째 제안입니다 . 비록 시작 텍스트가 아닐 수도 있습니다. Norvig 또는 온라인 자습서 (Matlab에 코드가있는)가 더 쉬운 소개 일 것입니다.

좋은 시작 프로젝트는 OCR (Optical Character Recognition)입니다. 텍스트 페이지를 스캔하고 분류를 수행하기 위해 네트워크를 통해 각 문자를 공급할 수 있습니다. (물론 네트워크를 먼저 훈련시켜야합니다!).


Raul Rojas의 책 은 아주 좋은 시작입니다 (무료입니다). 또한, 헤이 킨의 책 제 3 판 은 많은 양이지만 잘 설명되어 있습니다.


시작하지 않는 곳을 추천 할 수 있습니다. Kevin Gurney의 신경망 소개를 구입 했는데 아마존에 대한 좋은 리뷰가 있고 "인지 및 컴퓨터 과학에서 가장 중요한 주제 중 하나에 대한 접근성이 높은 소개"라고 주장합니다. 개인적으로 저는이 책을 시작으로 추천하지 않습니다. 나는 그것의 약 10 % 만 이해할 수 있지만 어쩌면 그것은 단지 나일 것입니다 (영어는 모국어가 아닙니다). 이 스레드에서 다른 옵션을 살펴 보겠습니다.


http://www.ai-junkie.com/ann/evolved/nnt1.html 은 다중 계층 퍼셉트론에 대한 명확한 소개이지만 역 전파 알고리즘을 설명하지는 않습니다.

일반적으로 AI에 관한 많은 기사를 제공하고 신경망에 관한 훌륭한 텍스트를 제공하는 generation5.org를 볼 수도 있습니다.


돈을 쓰지 않아도된다면 뇌 이론과 신경망 핸드북 이 아주 좋습니다. 그것은 많은 분야의 연구를 다루는 287 개의 기사를 포함합니다. 소개와 이론으로 시작한 다음 기사를 통해 자신의 관심사를 가장 잘 다루는 경로를 강조합니다.

첫 번째 프로젝트에서 Kohonen지도분류 에 흥미 가 있습니다. 음악 컬렉션에서 숨겨진 관계를 찾 거나 스마트 로봇을 구축 하거나 Netflix 상을 해결하십시오 .


좋은 출발점이 항상 Wikipedia 일 것이라고 생각합니다 . 여기에는 신경망을 사용하는 문서 및 프로젝트에 대한 유용한 링크가 있습니다.


공부하는 동안 사용한 두 권의 책 :

소개 과정 : Igor Aleksander와 Helen Morton의 신경 컴퓨팅에 대한 소개.

고급 과정 : Robert Hecht-Nielsen의 신경 계산


나는 Fausett의 기초 신경망 기초가 간단하고 입문하기 쉬운 교재를 발견했다.


"Computational Intelligence"교과서가 매우 유용하다는 것을 알았습니다.


프로그래밍 집단 지능 (Collective Collective Intelligence) 은이를 검색 및 순위 알고리즘과 관련하여 설명합니다. 또한, 여기에 사용 가능한 코드 (4 장)에서이 책에서 논의 된 개념은 Python 예제로 설명되어 있습니다.


생물학을 연구하는 것은 좋은 출발점이 아니라고 말한 다른 사람들과 동의합니다. 생물학에는 관련이없는 많은 정보가 있기 때문입니다. 뉴런이 기능을 재생성하기 위해 어떻게 작동하는지 이해할 필요는 없습니다. 액션 만 시뮬레이션하면됩니다. Ray Kurzweil의 "마음 만드는 법"을 추천합니다-계산 모델과 관련된 생물학 측면으로 들어갑니다. (임계점에 도달하면 여러 입력을 결합하고 발사하여 간단한 뉴런을 생성하지만) 관련없는 내용은 무시합니다. 뉴런이 실제로 thouse 입력을 추가하는 방법. (예를 들어 +와 부등식을 사용하여 임계 값과 비교하면됩니다)

I should also point out that the book isn't really about 'creating a mind' - it only focuses on heirarchical pattern recognition / the neocortex. The general theme has been talked about since the 1980s I beleive, so there are plenty of older books that probably contain slightly dated forms of the same information. I have read older documents stating that the vision system, for example, is a multi layered pattern recognizer. He contends that this applies to the entire neocortex. Also, take his 'predictions' with a grain of salt - his hardware estimates are probably pretty accurate, but i think he underestimates how complicated simple tasks can be (ex: driving a car). Granted, he has seen a lot of progress (and been part of some of it) but i still think he is over optimistic. There is a big difference between an AI car being able to drive a mile successfully 90% of the time, when compared to the 99.9+% that a human can do. I don't expect any AI to be truly out driving me for atleast 20 years... (I don't count BMWs track cars that need to be 'trained' on the actual course, as they aren't really playing the same game)

If you already have a basic idea of what AI is and how it can be modeled, you may be better off skipping to something more technical.


If you want to do quickly learn about applications of some neural network concepts on a real simulator, there is a great online book (now wiki) called 'Computational Cognitive Neuroscience' at http://grey.colorado.edu/CompCogNeuro/index.php/CCNBook/Main

The book is used at schools as a textbook, and takes you through lots of different brain areas, from individual neurons all the way to higher-order executive functioning.

In addition, each section is augmented with homework 'projects' that are already down for you. Just download, follow the steps, and simulate everything that the chapter talked about. The software they use, Emergent, is a little finnicky but incredibly robust: its the product of more than 10 years of work I believe.

I went through it in an undergrad class this past semester, and it was great. Walks you through everything step by step

참고URL : https://stackoverflow.com/questions/478947/what-are-some-good-resources-for-learning-about-artificial-neural-networks

반응형