work

Don’t let them put bullshit in your head

Опубликовано

Автору этих строк довелось побывать в MIT на лекции, на которой профессор (а он на удивление употреблял shit через слово) сказал этот тезис. Действительно, надо более критически относиться к тому, что тебе говорят, как в науке, так и в околонаучном контексте. И это не грех нынешнего времени. Наивная технофилия высмеивается, к примеру, в этой бардовской песне. Если можете, поменяйте слово «электричество» на «нейросеть», и вы получите квинтэссенцию современной псевдонаучной журналистики.

Нам нейросеть пахать и сеять будет. Забросил дату в keras ты и ты уже косой!

И вот, наконец, наступило то самое время — момент истины. COVID-19 создала непростую для диагностики ситуацию, при которой во-первых имеется чудовищная нагрузка на персонал, во-вторых нет однозначных критериев лучевой диагностики и диагноз ставится вероятностно, причём только КТ позволяет получить достаточную информацию. Тут-то нейросеть и покажет своё преимущество в диагностике патологии на данных X-ray/CT перед человеком, о котором столько звучало из амбициозых ртов.

За мной, читатель, и я покажу тебе такое решение!

Или не покажу? Все ключевые ораторы этого хора стихли и занимаются чем-то другим. Ключевой AI проект по распознаванию патологии в медицине, Watson исползуется для создания чат-ботов. «Как Вам помочь? Хотите, открою сайт CDC?» Спасибо, я сам как-нибудь. Распознавания изображений и автоматической диагностики никакой нет. nVidia, которая говорила, что рентгенолог учится ставить диагнозы 9 лет, а нейросеть несколько часов, поддерживает всякие важные инициативы, проводит обучающие семинары, folding@home, но нигде не презентует инструмента по распознаванию covid-19 на визуализационных данных. Lunit.io сначала предлагает решение для помощи в диагностике covid, а потом предлагает качать решение по автоматической диагностике консолидаций, предварительно сдав все свои персональные данные. Китайские авторы показывают научные статьи с высоченными чувствительностями и достоверностями, но нигде нет рабочего прототипа проверить работоспособность и правдивость их высказываний. В целом умные люди первыми начинают тише и аккуратнее говорить о безграничных возможностях AI, потому что в нынешней болезненной ситуации враньё не сойдет с рук настолько легко, как в доковидную эпоху.

Какие диагностические критерии в выявлении bullshit в новостях о выявлении COVID можно выдвинуть?

  1. Разговор ведётся в будущем времени, причём результаты разработки предсказываются до её выполнения («Российская разработка позволит с точностью 80% быстро поставить предварительный диагноз COVID-19 по рентгеновским снимкам и предотвратит 13% человеческих ошибок.»)
  2. Делается обязательный акцент на ошибках человека-диагноста и его недостатках в диагностике, для того чтобы проблема казалась более значимой
  3. Используются явно неприемлемые модальности для постанови диагноза и явно недостаточные объёмы данных для диагностики (см. обучение нейросети по 25 флюорограммам https://www.pyimagesearch.com/2020/03/16/detecting-covid-19-in-x-ray-images-with-keras-tensorflow-and-deep-learning/)
  4. Наличие на сайте проекта рассказа о том, «как наша технология помогает выявлять covid» с исключительно общими словами, без ссылок на статистику по чувствительности-специфичности
  5. Отсутствие возможности протестировать решение, либо в самый момент тестирования оказывается, что версия для тестирования не заточена под covid-19, а просто выявляет уплотнения, инфильтрации и т.п.
  6. В описании решения много технофилии — детально описан фреймворк, количество слоев, но совершенно нет медицинской части об описываемых явлениях
  7. Предложение связаться с менеджментом, описать свою проблему etc. вместо конкретики

Искусственный интеллект не нужен для того, чтобы не позволять засовывать в твою голову bullshit (bullshit в данном случае предлагаю переводить как претенциозное убожество).

Герман Малиновский

на КДПВ — попытка превращения рентгенограммы в ЛГБТ-пропаганду

Добавить комментарий