---
Title: ML-Rückblick 2
Date: 2016-03-07 12:00
Category: Allgemein
Tags: Allgemein
Authors: Martin Thoma
Status: draft
---

## New Developments

<!-- Trends -->


## Publications

<!-- e.g. arXiv -->


## Software

<!-- e.g. Theano, Keras, ... -->


## Interesting Questions

<!-- For example StackExchange -->


## Interna

<!-- About ML-KA itself; can also be a link to posts on this website -->

## Meetings

<!-- ML-KA meetings, but not only -->

* London, 7. April 2016: Deep Learning in Healthcare Summit ([Link](https://re-work.co/events/deep-learning-health-london-2016))
---
Title: ML-Rückblick 2
Date: 2016-03-07 12:00
Category: Allgemein
Tags: Allgemein
Authors: Martin Thoma
Status: draft
---

## New Developments

<!-- Trends -->


## Publications

<!-- e.g. arXiv -->

### Deep Neural Networks are Easily Fooled

Der Input für Neuronale Netze zur Bild-Klassifikation kann auf zwei Arten
manipuliert werden:

1. Ein Bild, auf welchem ein Mensch nichts erkennt (z.B. white noise) bekommt
   einen hohen Score für ein Objekt
2. Ein Bild auf welchem ein Mensch eine Sache eindeutig erkennt
   (z.B.&nbsp;"Katze")
   wird so manipuliert, dass das NN mit einem hohen score etwas anderes ausgibt
   (z.B.&nbsp;"Schulbus").

Siehe auch:

* Anh Nguyen, Jason Yosinski, Jeff Clune: [Deep Neural Networks are Easily Fooled: High Confidence Predictions for Unrecognizable Images](http://arxiv.org/abs/1412.1897) on arxiv.
* Evolving AI Lab: [Deep Neural Networks are Easily Fooled](https://www.youtube.com/watch?v=M2IebCN9Ht4) on YouTube in 5:33 min.


## Software

<!-- e.g. Theano, Keras, ... -->


## Interesting Questions

<!-- For example StackExchange -->


## Interna

<!-- About ML-KA itself; can also be a link to posts on this website -->

## Meetings

<!-- ML-KA meetings, but not only -->

* London, 7. April 2016: Deep Learning in Healthcare Summit ([Link](https://re-work.co/events/deep-learning-health-london-2016))
Add paper about fooling neural networks
Add paper about fooling neural networks
