Em seguida, rapidamente filho crescer: Hinton, LeCun, Bengio Breve História Oral de Redes Neurais

1960 Buffalo, os funcionários são "afinar" um Perceptron

Lei Feng rede AI Technology Review por: ao longo dos últimos cinco anos de desenvolvimento, AI evoluiu para a indústria de tecnologia de um conceito metafísico de uma das maiores esperanças. O computador tem sido capaz de reconhecer rostos e coisas, entender as palavras humanas falado, e traduzido em várias línguas. controladora Google alfabeto, Amazon, Apple, Facebook e Microsoft, a maior ciência do mundo e da tecnologia desses gigantes, têm sido amplamente apostou seu futuro no topo da AI, eles abriram um "quem deve criar um máquinas mais inteligentes "a competição AI. AI gigantes raça iluminado tecnologia AI, quase durante a noite veículos autônomos Tesla já na estrada Mercedes-Benz, enquanto a Amazon também é assistente de chat de voz Alexa com o seu filho. Mas AI não é construído durante a noite, nem trabalho independente de um único empresas do Vale do Silício.

Modern AI, ou seja, redes neurais e aprendizagem de máquina, a história pode ser rastreada para trás a fase final da II Guerra Mundial. Naquela época, os pesquisadores estão apenas começando a tentar construir um sistema de computador como o cérebro humano pode armazenar e processar essa informação. Desde o início de décadas, o desenvolvimento dos altos e baixos desta tecnologia, mas até que ele começou a fechar em 2012 favorecido por uma ampla gama de cientistas da computação, graças a um punhado de medo de ser teimoso como um tolo pesquisadores de IA insistência. Eles sempre acreditava firmemente que a rede neural vai iluminar o mundo e mudar o destino da humanidade.

Esses pioneiros foram espalhados por todo o mundo, mas a rede neural para se juntar aos estudiosos especialmente concentrados no Canadá este lugar. Na verdade, eles só podem vir para o Canadá, em grande parte por causa da boa sorte: redes neurais não são realmente na moda na época de qualquer maneira, então, por meio de redes neurais para atrair subsidiados pelo Instituto Canadense de Pesquisa Avançada (Cifar) o apoio do governo um punhado de acadêmicos para o Canadá. Isto inclui tais Geoffrey Hinton, da Universidade de Toronto e Yann LeCun, Yoshua Bengio da Universidade de Montreal, Richard Sutton Universidade de Alberta cientistas da computação têm tão poucos deu-lhes uma oportunidade de compartilhar suas idéias de pesquisa, manter a sua própria carreira de investigação. Estes cientistas da computação teimosos propuseram muitos conceitos para acelerar o desenvolvimento AI, e agora, todos esses conceitos iniciais são considerados a pedra angular da AI moderno, essas pessoas são consideradas de AI "padrinho". Aqui, nós queremos falar sobre isso um pouco estranha história, o conteúdo história tirada repórter Bloomberg Ashlee Vance das respectivas entrevistas, estes incluem "Por que as redes neurais levou tanto tempo para desempenhar um papel?" Cientista da computação "rede neural amor como Baotuan juntos? "" por que tantos lugares no mundo escolheram para o Canadá? "tudo isso eventualmente se tornou o palco para a ascensão das máquinas inteligentes.

Lei Feng rede AI Technology Review texto compilado como segue.

pinturas AI, Bloomberg Business Week 2018 edição de março

Primeiro-ministro canadense Justin Trudeau : Um sentido amplo, AI refere-se a um computador de computador capaz de simular pensamento ou comportamento humano. Sob esta definição, nasceu o conceito de aprendizagem de máquina, que você deixar o computador fazer a experiência novamente e novamente. Esta pode ser uma simulação de veículos autônomos na estrada, ou tente a máquina para reconhecer a foto de um gato.

Sob este conceito, envolve um subconjunto de método de aprendizagem máquina chamada aprendizagem profunda. A idéia geral é criar uma aprendizagem profunda da rede neural, pesos de redes neurais e viés pode ser ajustada para dar a saída desejada até que a rede. aprendizagem profunda pode tornar um problema no computador resolver evolução iterativa, algo que é Geoff Hinton e outros cientistas nas últimas décadas, a pesquisa real, aprendendo profunda tecnologia AI é atualmente o mais mentiras fundação emocionantes. desempenho acadêmico profundidade em termos do cérebro humano a pensar imitação também é melhor.

Cade Metz repórter do New York Times, autor "A História Forthcoming da AI" um livro: datas inspiração redes neurais de volta para a década de 1940, quando foi proposta a construção de um sistema de computador pode simular a rede neural do cérebro humano. Mas, assim que na década de 1950 chamado Frank Rosenblatt logo após o verdadeiro impulso para o desenvolvimento deste tipo de investigação. Também foi realizada pesquisa conjunta com a Marinha dos EUA e outros departamentos governamentais, Professor Frank Rosenblatt, o conceito de redes neurais ele desenvolveu essa coisa chamada "máquina de percepção" de. Quando ele expôs suas realizações, como o New York Times Magazine e The New Yorker colocá-lo na posição mais proeminente foi relatado.

reivindicações Perceptron Rosenblatt que este será mais do que fazer pequenas tarefas como reconhecimento de imagem, em teoria, pode também ensinar uma máquina a andar, falar e fazer expressões faciais. Mas só Perceptron com uma camada de neurônios, o que significa que ele pode fazer é extremamente limitada. Para não mencionar, na verdade, ele prometeu funcionalidade do dispositivo e ninguém percebeu.

Naquela época, um colega Rosenblatt chamado Marvin Minsky, Minsky também acontece a ser alunos do ensino médio em Rosenblatt em Bronxt, Minsky escreveu um livro em 1960, ele descreveu em detalhes no livro, Rosenblatt Perceptron e desenvolvimento limitações das redes neurais. Este livro é quase como a investigação nesta área, a rede neural foi congelado pelo menos uma década.

Geoff Hinton : Perceptron de Rosenblatt teria sido capaz de alcançar algumas coisas interessantes, mas ele foi cerca de 50 anos à frente do seu tempo. Embora os alunos podem ser contados como Minsky também tem sido crentes de rede neural, mas ele mostrou algo no livro que não pode ser resolvido. Este livro de Minsky e Seymour Papert do livro "Perceptrons: An Introduction to Computational Geometry" Basicamente, a investigação nesta área uma sentença de morte.

Metz : Geoff Hinton, começando na CMU, e mais tarde na Universidade de Toronto, têm vindo a aderir à ideia de redes neurais. Ele e seus colaboradores, finalmente, desenvolveu uma rede neural multi-camada, que é a profundidade da rede neural, esta rede finalmente começou exibido suas proezas em uma variedade de diferentes tarefas.

Francês-nascido computador cientista do laboratório Hinton Yann LeCun estão em Toronto para um ano de pós-doutoramento. Mais tarde LeCun foi para a Bell Labs, em Nova Jersey, EUA.

Yann LeCun Eu era muito jovem em todo este conceito de fascinada inteligente. Foi quando eu estava crescendo na década de 1960, quando há a exploração do espaço, apareceu o primeiro computador e da AI. Então eu comecei a estudar engenharia, estou muito interessado em inteligência artificial, mesmo que o tempo nesta área está apenas a brotação.

Em 1979, Yann LeCun (lado direito) da Universidade de ESIEE Paris

Eu ouvi sobre a máquina percepção, e estou curioso, porque eu acho que parte da inteligência "aprendizagem" é. Eu tenho uma variedade de maneiras para encontrar tudo sobre Perceptron de ler. Como engenheiro, há uma maneira óbvia é tentar criar seu próprio uma máquina inteligente, ele vai levá-lo concentrar-se nas componentes necessários para a sabedoria produtos. É um pouco como os pioneiros da aviação que recebem inspiração de aves, mas também não a cópia total. Na verdade, não precisamos imitar a inteligência biológica ou cérebro, porque, em muitos aspectos, é apenas uma função sujeita às leis básicas da biologia ou bioquímica, e realmente não têm muito a si e sabedoria. Como penas de vôo não é essencial, o que realmente importa são os princípios aerodinâmicos escondidos.

Metz : Algumas pessoas tinha pensado LeCun um louco francamente, ele fez uma pesquisa em vão. Naquele tempo, se você participar em grande escala conferência de inteligência artificial, ele disse que sua pesquisa é a rede neural, você vai definitivamente dominante academia excluídos. Naquela época, a pesquisa da rede neural são alguns dos borda.

Yoshua Bengio : Em 1985, a pesquisa borda da rede neural, não posso aprender neste curso na Universidade McGill. Estudei o símbolo clássico da inteligência artificial. Então eu tive que convencer meu professor para me guiar na rede neural. I recebeu uma bolsa de estudos do governo, para que eu possa escolher os seus próprios tópicos de investigação, não é nenhuma perda para o professor. Ele e eu chegaram a um acordo, eu posso fazer a aprendizagem de máquina, mas eu tenho que aplicar esta pesquisa para o campo que ele se preocupa - reconhecimento de voz.

LeCun : Em torno de 1986, quando houve uma onda de maré redes neural. Os físicos gerar interesse nestes modelos, apresentou novo método matemático, o que torna o campo novamente ser aceitos pelo mainstream, que está liderando a onda de redes neurais no final de 1980 e início de 1990. Algumas pessoas criadas para fazer algo prático sistema baseado em redes neurais, tais como detecção de fraudes de cartão de crédito. Eu desenvolvi um cheque para sistemas de automação de leitura com base no reconhecimento simbólico.

Em 1995, Pomerleau está demonstrando seus veículos autônomos

Metz : Dean Pomerleau Carnegie Mellon University no final de 1980 criou um veículos autônomos baseado em redes neurais, o carro pode ser conduzido em vias públicas. uso LeCun na década de 1990 esta tecnologia, o estabelecimento de um sistema digital pode reconhecer caligrafia, e, finalmente, o sistema é utilizado pelo banco.

A partir do final dos anos 1980 para os anos 1990, as redes neurais revivido, é o melhor exemplo, existem algumas aplicações práticas, trabalho LeCun. Mas então eu fui para o limite, principalmente devido à capacidade de computação limitados, a falta de dados disponíveis. inverno AI atingido novamente.

Jurgen Schmidhuber : Nós certamente não usar esses canadenses (Nota: aqui se refere a Bengio) algoritmo; eles estão usando nosso algoritmo. LeCun originalmente francês, usamos o algoritmo. Isso é bom. Ele tem um monte de contribuições, o que é muito importante, muito útil.

Conheço esses pesquisadores por um longo tempo. Quando vi pela primeira vez Yoshua, ele publicou com meus alunos o mesmo estudo, mais ou menos o mesmo, que meus alunos estudam quatro anos atrás publicado. Alguns anos mais tarde, em uma reunião, temos um confronto, tudo é a verdade. Foi realizado um seminário sobre o debate público, é claro quem deve fazer é a investigação. Isto não é desagradável, só para esclarecer o fato. A investigação científica é para esclarecer os fatos.

(E Bengio negou a afirmação de Schmidhuber.)

LeCun : O problema era estes métodos requerem software complexo, grandes quantidades de dados e computadores de alto desempenho. Muitas pessoas não têm a oportunidade de tirar proveito desses recursos, poucas pessoas estão dispostas a investir.

Em meados da década de 1990 para cerca de 2005 do século passado, as pessoas escolhem o caminho mais fácil - ninguém está realmente interessado na rede neural. Para Geoff, Yoshua e para mim, este é realmente um período negro, não sentimos a dor, mas um pouco triste. Acreditamos que existe um potencial significativo para a investigação, nós realmente optar por ignorar.

Hinton : Claro, nós sempre acreditamos que a rede neural, e está comprometida com o estudo. Mas os engenheiros descobriram que em um pequeno conjunto de dados, outros métodos são igualmente eficazes ou mais útil em comparação com a rede neural, assim eles escolhem outros métodos que as redes neurais apenas o nosso pensamento positivo. Redes Neurais está empenhada em tornar mais eficaz nesse momento muito poucas pessoas.

Cifar deixar as pessoas em todo o mundo e temos as mesmas ideias têm mais trocas. Desta vez, a um ponto de viragem.

LeCun : É por causa deste pequeno grupo de pessoas insistem que a rede neural é a escolha certa no final, a rede neural para regressar à vista do público. Em 2003, Geoff estava olhando para ele fazer um programa sobre computação neural em Toronto, Cifar. Nós se reuniram e decidiram esforços para reavivar o interesse no trabalho. No entanto, antes do lançamento de nossas idéias, precisamos de um lugar seguro para manter alguns pequenos seminários e reuniões, desenvolver verdadeiramente as nossas ideias. O projeto foi lançado oficialmente em 2004, a 2006, tem havido alguns papéis muito interessantes. Geoff também publicou um artigo relacionado em "Science".

imagens de rostos de 2006 Hinton papel "Science" de

Trudeau : Em um inverno AI, quando a maioria das pessoas desistir de redes neurais, algumas pessoas continuam a avançar, Canadá tranquilamente fundação de pesquisa AI moderna, eu posso dizer com certeza, Canadá, a este respeito, em apoio puramente na pesquisa científica, ele tem vindo a fazer muito bem.

Nós, as pessoas realmente inteligentes para fornecer a oportunidade de fazer pesquisa de ponta, mesmo que eles não podem cair para estudo negócio ou alguns lugares específicos.

Hinton : 2006 em Toronto, temos desenvolvido uma tecnologia de rede que compreende uma pluralidade de camadas deste treinamento, é mais eficiente do que a tecnologia anterior. No mesmo ano, "Science" publicou um artigo que teve um grande impacto, mas também desempenhou um papel significativo no apoio da nossa reivindicação, muitas pessoas renovado interesse em redes neurais. Em 2009, quando meu laboratório dois estudantes desenvolveram um método para fazer com a profundidade da rede neural de reconhecimento de voz, o seu efeito foi melhor do que todos os outros métodos.

Na verdade, ela só vai levantar um pouco, mas quando comparado com outro desenvolvimento de tecnologia tem sido estagnado há 30 anos, nenhum progresso substancial. A profundidade da rede neural leva apenas alguns meses pode fazer melhor do que esses métodos, pode ser visto claramente só precisa de um ano pouco tempo, a rede neural também pode ter um grande desenvolvimento.

Metz : Sobre 2009, quando, Hinton muito inteligente encontrou força Deng pesquisador reconhecimento de voz da Microsoft. Como todo mundo, eu acredito que Deng Li AI forma de apresentação não deve ser apenas um tipo de AI simbólico. Para AI simbólico, o sistema de reconhecimento de voz requer uma linha após linha de componentes de código, cada um tem de definir manualmente os detalhes do comportamento do sistema, o sistema também desenvolvido muito lentamente.

Hinton disse que tentou fazer o reconhecimento de voz usando a rede neural, e tem feito progressos substanciais. rede neural pode aprender a analisar padrões de fala nos dados, mas também a linha velocidade do que simbólicos AI sistemas de linhas de código mais rápido. Deng forçar este tempo e não acredito plenamente nas palavras de Hinton, Hinton, mas ele convidou Microsoft para continuar a avançar nesta pesquisa, há dois colaboradores finais Hinton também se reuniram. A tecnologia de reconhecimento de voz da Microsoft em que um salto, em 2010 o Google também é um grande passo.

Mais tarde, ao final de 2012, Hinton e dois estudantes juntos no reconhecimento de imagem também tem feito um grande avanço, todos os métodos anteriores estão muito atrás deles. Isto é, até este momento, salvo as companhias da indústria Microsoft e Google estão começando a perceber o quão poderosa essa idéia.

Vale a pena notar que estes são ideia muito antiga. Mas agora a quantidade de energia e dados de computação para a rede neural por trás e antes de uma grande diferença. Para Microsoft e Google sobre esta ciência escala e empresa de tecnologia, eles precisam de milhares de computadores correndo juntos, trabalhando com texto, vídeo, etc. todos os tipos de coisas. Vamos sucesso rede neural são estes: rede de formação exige um monte de dados, mas você também precisa treinar poder de computação suficiente para suportar a rede.

escritório Hinton

LeCun : Se você quiser perguntar por que demorou tanto tempo para ter sucesso, então a minha resposta é que a pesquisa científica é tal que a psicologia humana é tal. Quando uma nova tecnologia aparece, em primeiro lugar não há provas suficientes para convencer as pessoas de que ele pode linha, e então ele vai começar a utilização em larga escala-lo. No entanto, estes rede neural tem sido "crítico" má reputação, você quer jogar o efeito também precisa de alguma "magia negra".

Richard Sutton : Poder de computação pode ser aumento tão rápido e sustentado, que é muito marcante. Se as mesmas pessoas estão agora na corrida entre, as pessoas querem desenvolver algoritmos mais complexos quer desenvolver um computador mais rápido. Para o projeto algoritmo de pessoas, ele já pode ser considerada em um algoritmo de computador projetado para executar nos próximos 5-10 anos, emergindo a.

As necessidades de computador o que é bom eo que é ruim. Assim, os seres humanos dar-lhe um sinal especial, chamado de "feedback" (recompensa). Se o valor de retorno é alta, isso mostra que o bem; se o valor de feedback é baixa, isso mostra que não é bom. Este é o propósito deste projeto.

As redes neurais podem ser armazenados no processo de aprendizagem, e aprendizado por reforço é para que você decida o que você quer mudar.

Bengio : De alcançar Geoff, que Yann e eu imagino que há muito longe aprendizado não supervisionado. Quase todas as grandes empresas que dependem de aprendizagem supervisionada com base na profundidade de produtos de aprendizagem, Computer Society, em seguida, encontrou um tempo o que fazer por milhões de casos. De aprendizagem claro que não humana, podemos aprender de forma independente. Fomos capazes de explorar o mundo em torno de si. criança de 2 anos de idade, ter intuição para as leis físicas básicas da gravidade, pressão, etc., não precisa de seus pais leis da mecânica e da lei da gravidade dar-lhe a Igreja de Newton. Nós olhamos para o mundo, e interagir com o mundo, como então irá executar as coisas neste mundo, fez-se o próximo será como desenvolver sua própria coisa percepções mais tarde.

Nossa pesquisa está se transformando numa nova fase de aprendizagem não supervisionada, mas também pode fortalecer os resultados de aprendizagem vinculados. Não nos limitamos a observar o mundo só, nós também interagir com o mundo, para descobrir o mundo funciona de acordo com as conseqüências de sua ação.

LeCun : Estou interessado na questão é como fazer com que a máquina pode aprender tão eficientemente quanto os seres humanos e animais. Quando aprender a dirigir, você sabia que, se você está aberto para a estrada fora não é muito bom. Nós, humanos, podemos prever as consequências das suas acções, significa isso também que seremos capazes de perceber uma coisa a fazer antes que isso é uma coisa boa ou uma coisa má.

Então, eu sou objetivo é encontrar novas formas de máquinas de treinamento, para que possam aprender pela observação, que também será capaz de construir um modelo preditivo para o mundo. Hoje, um certo tipo de vida no mundo têm a capacidade de prever o seu ambiente. Um tipo das criaturas mais inteligentes, seu poder preditivo é maior. Em certo sentido, pode ser considerado "projeto" é o núcleo de "sabedoria", e, em seguida, juntamente com a capacidade de fazer uma ação correspondente de acordo com suas previsões, como.

Os próximos 3 anos, 5 anos, 10 anos ou 15 anos, estamos propensos a fazer alguns resultados significativos, na verdade, isso não está longe. Mas, em seguida, fazer um sistema mais próximo da inteligência humana, precisamos de um longo tempo sobre esta base, pode demorar várias décadas.

Bengio : Eu acho que o trabalho humano não vai necessariamente ser substituído por um robô, mesmo se a máquina torna-se muito inteligente, ainda mais inteligente do que os humanos. Algum trabalho é a essência da interação entre as pessoas, este tipo de trabalho que sempre espero que as pessoas fazem. Por exemplo, eu não gosto de deixar o robô cuidar de suas crianças ou idosos, bem como cuidar de mim quando eu estava hospitalizado. Eu não estou preocupado, "Terminator" o que acontece. Eu acredito que se nós podemos produzir e também máquinas inteligentes, eles também têm a capacidade de compreender os nossos valores humanos e ética da humanidade, feita a partir de ação favorável sobre os seres humanos.

O que eu realmente temo é que AI pode ser mal utilizado, tais como o uso AI em armas. AI usado em publicidade pode influenciar as pessoas, já podemos ver isso acontecendo. Para uso local de AI pode ter problema moral ou ético, devemos dirigir lei destinada a proibir. A humanidade como um todo precisa de se tornar mais inteligente.

Sutton : Eu acho que nós colocamos esta área é conhecida como um grande erro "inteligência artificial". É como se ele traz é muito diferente de seres humanos, mas não muito inteligente. Este argumento para convidar muitas pessoas se sentem "alien", mas na verdade estamos fazendo é uma coisa muito humana: a reproduzir a inteligência humana na máquina.

A verdade científica foi revelado gostos não todos - você realmente obter a verdade, mas a verdade não é o jeito que você esperava. Talvez este seja o motivo de conflito entre a história da ciência e da religião sempre. Eu acho que mais e mais da nossa pesquisa sobre o cérebro humano, a mesma coisa vai acontecer. Talvez nós nunca encontrar interpretação 'consciência' de que, algumas pessoas vão gostar do resultado, algumas pessoas não vão gostar. A ciência não pode alterar a verdade objetiva.

Cada vez que uma mudança de tendência no mundo, sempre distinguir os vencedores e perdedores, mas no futuro há muitos grandes mudanças esperando por nós. Eu acho que nós mesmos se tornarão máquinas inteligentes. Nós deve ser visto como o nosso próprio AI, ou como um dos nossas futuras gerações. Podemos seguir o seu próprio caminho sensação direita para construí-los.

Então, o que a natureza humana é? A natureza humana é uma espécie de querer ficar melhor poder implacável. Não devemos tentar colocar estadias tudo no lugar, e dizer que esta é a maneira correta.

Em 2011, Hinton e Bengio caminhada fora da oficina organizada Gatsby Institute

LeCun : A menos que nós realmente sabemos o que o futuro irá desenvolver em, ou qualquer preocupação sobre isso são simplesmente infundadas. Então eu não concordo com a idéia de singularidade tecnologia, que um dia máquinas de moda com inteligência superior, eles podem criar suas próprias máquinas de imediato uma mais inteligentes, a partir de fora de controle. Eu acredito que este conceito de pessoas provavelmente esquecer todos os fenômenos físicos ou sociais vai encontrar todos os tipos de resistência, o processo de crescimento de uma curva exponencial não é possível indefinidamente sustentável.

filmes de Hollywood que "um gênio Alaska esclarecer o mistério da AI, criando um robô super-inteligência e governou o mundo", a história não vai acontecer, isso é apenas ridículo.

Trudeau : Eu não estou muito preocupado com isso. Para a teoria AI, haverá mais perigoso, temos visto os filmes de ficção científica e ficção científica têm sido suficientes. Acho que devemos manter um sentido, é a tecnologia pode ser usada para o bem, também pode ser usado para fazer coisas ruins. Estou satisfeito que uma boa festa no Canadá em que tentam permanecer no caminho certo. Eu não quero diminuir o ritmo de nossa pesquisa, encontramos o verdadeiro significado do universo está a abrandar.

O verdadeiro problema aqui é que queremos um tipo de mundo? Esperamos que as pessoas bem sucedidas têm para esconder trilhos jardim fechado, todas as outras pessoas estão com inveja, quando ele vai sair com forcados, ou esperança de que todos neste mundo tem de contribuir, fazer as oportunidades para a inovação?

Hinton : Eu acho que o impacto social depende em grande medida os sistemas políticos destas coisas onde estamos. Em essência, melhorar a eficiência dos produtos manufaturados deve aumentar o bem-estar geral da sociedade. Ele vai trazer conseqüências ruins, então único possível, que esta sociedade vai melhorar os benefícios de produtividade de todos ao topo 1% da sociedade. Eu vivo no Canadá, uma das razões é um sistema fiscal razoável: se você ganhar um monte de dinheiro, você também precisa pagar um monte de impostos. Eu acho que este projeto é muito bom.

Acho que o que realmente importa é que não podemos prever o futuro. Contanto que você começar a tentar adivinhar os próximos 20 anos o que poderia acontecer, você quase certamente horrivelmente errado. Mas há algumas coisas que podemos prever, tais avanços tecnológicos acabará por mudar tudo.

(Fim)

via Bloomberg, Lei Feng compilado rede AI Technology Review

"Venom: Deadly Guardian" norte-americano estréia de Michelle professor confissão sopa "estrela para você."
Anterior
Nokia 2017 nova máquina de secções do quadro cesta são obra-prima
Próximo