Spark in me - Internet, data science, math, deep learning, philo

snakers4 @ telegram, 1166 members, 1156 posts since 2016

All this - lost like tears in rain.

Internet, data science, math, deep learning, philosophy.
No bullshit.

На чай
- goo.gl/zveIOr
- Договор ТКС 5011673505

Сайт spark-in.me
Файл goo.gl/5VGU5A
Чат goo.gl/IS6Kzz

July 11, 04:47

Из разряда "фейлов". Очень давно хотел посмотреть чему же учится нейросеть внутри. Все примеры из теории обычнюо прекрасны, сделаны на огромных нейросетях, там все супер и классно. Но чему же учится нейросеть, когда мы тренируем ее на курицах?

Но когда начинаешь смотреть глубже, оказывается, что:

- Есть по сути два варианта - либо самому писать вариацию на тему gradient ascent (но за это PhD не дадут), либо использовать готовые либы или примеры;

- Примеры сделаны в 2015 году, все библиотеки уже обратно несовместимы;

- Чтобы повторить результат нужно поставить 5 библиотек из исходников в определенной версии и потанцевать с бубном;

Вот несколько отличных примеров, которые "не запускаются":

- github.com/keplr-io/quiver / www.youtube.com/watch?edit=vd&v=tgRW3BRi_FA - супер классный инструмент. Несовместим с keras > 2.0

- yosinski.com/deepvis - на видео офигенно, но список зависимостей для установки немного отпугивает

Что запускается:

- Самое последнее - keras viz - github.com/raghakot/keras-vis/tree/master/examples/vggnet - совместимое с keras 2.0 - я смог запустить и...

Ожидание того, как нейросеть должна видеть птичку:

- goo.gl/LZNcQp

Реальность того, что же видит нейросеть:

- goo.gl/fa2UQt

Видно, что видна форма гнезда, видны какие-то узоры, видно голову курицы. Видно, что курица в основном в центре картинки. И все.

#data_science

keplr-io/quiver

quiver - Interactive convnet features visualization for Keras