Lee continua a partir do fundo do Centro Nacional de Convenções
relatórios qubit | número Público QbitAI
Última autor qubit introduzido, o tema da segurança no AI bênção está a aquecer, somente em junho, os fluxos de investimento para proteger a área do empreendedorismo têm total de 3,0 bilhões.
O mesmo fenômeno ocorreu na China Internet Summit Liderança Segurança (CSS2017) site. Este patrocinado pela conferência de segurança de rede Tencent, embora o tema não é "inteligência artificial" diretamente relacionados, mas a conversa entre o juiz, AI já não pode ser ignorado tópico.
No site da Assembléia Geral, vice-presidente Tencent responsável pela segurança Dingke, conhecido como "top hackers do mundo", disse Kevin Mitnick, e da Universidade da Califórnia, professor de Berkeley, "Computer Security madrinha" Xiaodong (Dawn Song), a tendência no AI o tema da segurança, aceitou a entrevista qubit.
Ding Ke, vice-presidente da Tencent
Ding Ke, vice-presidente da Tencent disse qubit, as questões de segurança no AI, novo e particularmente importante no desenvolvimento da tecnologia AI, os limites naturais estão sendo quebrados, um novo problema está ocorrendo.
Dingke especificamente explicou que a inteligência da máquina é colocar um monte de vezes que a lógica normal torna-se caixa-preta operação, em que os contaminados máquina processo de dados, amostras e vai afetar o seu julgamento, vai trazer mais sutil, pondo em perigo as questões de segurança. Antes dos seres humanos dependem de lógica e auto-controle, juntamente com a existência de relações sociais, que podem controlar e responsabilidade para com o outro, mas a AI vai mudar tudo isso.
Em vista Tencent, segurança AI era, metade dos aspectos, anti-spam Anti-Pro tradicionais de tecnologia, mais é explorar a técnica e ética.
Existem aspectos técnicos de acumulação de apoio, mas o juiz na fronteira, começou a envolver novos padrões éticos.
"Estamos explorando todos os aspectos deste estágio mais questões transfronteiriças, processo cognitivo definido no futuro da inteligência artificial em diversas áreas, piloto automático, aprendizagem imagem (profundidade médica), áreas de apoio à decisão (bate-papo, de apoio à decisão ), se não sobre a questão da fronteira, não fazer verificações de segurança, o problema torna-se não ao controle. "Por exemplo, ele disse a um qubit.
Finalmente, o vice-presidente encarregado da Tencent de segurança interna também concluiu que, a fim de garantir o princípio, de modo que a base da prosperidade e desenvolvimento de uma coisa, ele deve ser conhecida com antecedência, para o pior e em que medida, mas também uma clara consciência da sua fundação os princípios básicos de saúde e desenvolvimento sustentável.
"World número um hacker" Kevin Mitnick
O CSS Assembléia Geral, conhecido como "top hackers do mundo", disse Kevin Mitnick também foi convidado para a cena, esta é sua primeira visita à China, a partir de sua guerra FBI, e foi listado como as metas de segurança de rede número um já no passado queriam 20 anos.
Agora Kevin Mitnick tem a sua empresa de consultoria própria segurança, o hacker nasceu, ele foi convertido para o talento e assessoria técnica e maneiras de combater ataques cibernéticos.
representação Kevin Mitnick, AI está colocando mais e mais equipamentos "em" Network World, temos um número crescente de cidade inteligente, aparelhos inteligentes e carros inteligentes, mas, fundamentalmente, os olhos de Kevin Mitnick para ver o pleno "cidade frágil", "eletrodomésticos frágeis" e "veículos vulneráveis", porque todos os dispositivos podem ser atacados e utilizado, de modo a fonte de certificação de segurança deve tornar-se uma prioridade.
Recomendações feitas ao qubit Kevin Mitnick, as autoridades de confiança públicas devem criar uma divisão, dispositivo IOT antes do lançamento, tem que passar por certificação de segurança, o código é seguro ou não a ser testado, antes de a escala antes de uma nova implantação.
O hacker lendário, disse certificação de segurança até à data, geralmente usam a forma "credenciais padrão", mas um monte de incidentes de segurança, a origem do problema é o "credenciais padrão," AI está conectado com o desenvolvimento de IOT e mais e mais dispositivos, esses riscos podem causar danos, o mais assustador do que nunca.
No entanto, Kevin Mitnick também enfatizou que agora não é realmente em linha com a tecnologia de núcleo de ferramentas ou produtos AI aparecem mais produtos foco na "tomada de decisão", então ele ainda não tenha experimentado no AI avaliação análise de segurança do produto.
Mas tendência AI já vasta agitado, Kevin Mitnick, disse que ele mesmo fundou uma ferramenta AI empresa de desenvolvimento de produto especializada na Califórnia, o futuro vai pegar pela rede social "phishing" para fornecer um ambiente seguro para o usuário, este princípios técnicos por trás das ferramentas de aprendizagem de máquina, através do modelo de dados, permitindo que a máquina de aprender rapidamente a capacidade de identificar "phishing" - o produto que está em desenvolvimento.
"Madrinha Computer Security" Xiaodong (Dawn Song)
Além lendário hacker de Kevin Mitnick, a preocupação Professor Visitante, University of California, Berkeley, Song Xiaodong (Dawn Song) também CSS, não é a "madrinha da segurança do computador", disse o professor, que é um "MacArthur concessão gênio" vencedor, também mancha Os proponentes da teoria.
Com diferentes pontos de vista de Kevin Mitnick, Xiaodong acho que as questões de segurança AI-relacionados, é iminente, e responder a ataques de segurança AI era, os desenvolvedores necessidade AI desde o início de considerações de design de produto.
"A história tem mostrado que o atacante vai seguir sempre a tecnologia mais recente, às vezes até levando a mais recente tecnologia." Disse Prompt Xiaodong.
Vale a pena notar que os riscos enfrentando agora se tornará maior no campo da AI, porque o AI vai controlar mais e mais do sistema e do sistema, se o atacante quer atacar o sistema de IA e ter sucesso, então as consequências serão muito graves, por exemplo, um atacante ataques por veículos não tripulados.
Como lidar com isso?
A idéia central é desenvolvedores Xiaodong, AI no desenvolvimento de sistema de IA, você precisa pensar em termos do atacante.
Pode haver dois casos, um atacantes sistema AI que permite que o sistema para tomar as decisões erradas. Esta situação requer que os desenvolvedores para melhorar seus sistemas de aprendizagem, construindo firewalls, também necessitam de um melhor sistema de segurança integrado na aprendizagem profundidade sistema.
Outro caso é o abuso atacante ferramentas e técnicas de IA para atacar outros sistemas, ele também requer aprendizagem desenvolvedores de sistemas desenvolveram uma segurança mais forte.
Reforçar a segurança do sistema para aprender, isso significa aprender a compreender a profundidade da atual "fraqueza". Por exemplo, um confronto amostra confuso com o sistema, fazendo com que o sistema para identificar erros, que irá incluir requisitos de alta segurança, incluindo as áreas de piloto automático sujeitas a riscos enormes.
Então Xiaodong sugeriu que o sistema de aprendizagem profunda configurado, o modelo, selecione o gráficos, código e defesa caixa de ataque preto, temos de nos concentrar sobre o risco de ataque contra o ser amostra reconstruídas causado.
Além disso, ela também acredita no desenvolvimento de novos recursos no processo de redes neurais, ciclo recursiva, raciocínio mais fácil, módulos e generalização, e mais capaz de garantir a segurança e confiabilidade do programa.
Finalmente, a "madrinha seguro" que, embora a era AI traz desafios de segurança será difícil de prever, mas a AI pode melhorar ajudam os desenvolvedores a projetar software mais seguro e confiável, aprendizagem profunda mudou a atual situação de segurança e recursos de segurança vamos sistemas cognitivos se tornam mais poderosos, e mais amplamente implantado em uma variedade de produtos, e permite-se a obter a capacidade de novos produtos, com a identificação de software malicioso, a capacidade de fraude juiz.
Então, basicamente, AI poderia trazer mais sérios desafios, mas também trazer o melhor dos tempos.
cartão de Kevin Mitnick
Finalmente, depois de uma entrevista com Kevin Mitnick, "top hackers do mundo" qubit trocaram cartões de visita, o cartão como se fosse de metal para criar cartões de visita olhar diferente, mas padrão oco também é bastante interessante.
Kevin Mitnick sorriu e disse qubit: você pode usá-lo (cartões de visita) para soletrar uma chave, "hack" você quer ir a qualquer lugar. (Ri)
- FIM -
recrutamento sincero
Qubits estão recrutando editor / repórter, com sede em Zhongguancun de Beijing. Esperamos talentosos, estudantes entusiasmados para se juntar a nós! Detalhes, por favor qubit número público da interface de diálogo (QbitAI), responder palavra "recrutamento".
qubit QbitAI
' ' rastrear novas tecnologias e produtos AI dinâmicos
