IBM Watson рекомендует небезопасные методы лечения рака

Примерно год назад IBM начала активно продвигать Watson как потенциальный способ борьбы с раком. IBM уже много лет работает над этой технологией, и летом прошлого года она была достаточно уверенна, чтобы начать ее рекламу. Однако последующая отчетность указывает на то, что рекламные объявления IBM Watson, возможно, были более чем преждевременными.

Отчет Stat, в котором были представлены внутренние документы от IBM, показывает, что Уотсон занимается «несколькими примерами небезопасных и неправильных рекомендаций по лечению». Теперь этот показатель отказов ожидается в любом проекте, особенно в новом, таком как AI и как ужасно сложный, как рак. Полное обсуждение типов рака далеко выходит за рамки этой статьи, но одна из вещей, из-за которых рак так трудно лечить, заключается в том, что существует не только один тип рака. На самом деле, на один орган нет даже одного типа рака. Органы могут развить рак по-разному, а разные виды рака имеют разные характеристики, требующие разных планов лечения.

Короче: Рак ужасно усложнен. Вероятно, именно поэтому IBM хотела объявить, что вначале Ватсон будет работать над исследованиями рака; это пример учебника «большой проблемы», который ИИ мог бы решить. Но это может также объяснить, почему некоторые из врачей, которые работали с Уотсоном, кажутся менее чем влюбленными в это.

«Этот продукт - часть дерьма, - сообщает Gizmodo, доктор медицины из больницы Юпитера в штате Флорида, в соответствии с документами, рассмотренными Stat. «Мы купили его для маркетинга и с надеждой, что вы достигнете видения. Мы не можем использовать его в большинстве случаев ».

Разрыв между рекламой и реальностью свидетельствует о том, что отдел маркетинга IBM либо сделал свою работу очень хорошо, либо не достаточно хорошо (когда вы попадаете на этот вопрос, может зависеть от того, был ли ваш адрес электронной почты @ ibm.com после него). Ранее Gizmodo сообщал о том, что риторика IBM и способности Уотсона все больше разводились, и эта критика имеет под собой ноги после этих последних отчетов.

Один важный момент, который нужно сделать здесь, это то, что Уотсон не просто рассматривает случайных пациентов - он используется для предоставления потенциальной обратной связи и доступен для врачей, чтобы проконсультироваться, когда они были в тупике от проблемы или потенциальной проблемы. Конкретной проблемой, которую Ватсон прищуривал, была попытка предписать Бевацизумаба человеку, которому лечили химиотерапию рака легких с историей сильного кровотечения. Бевацизумаб (название бренда: Авастин), как известно, вызывает кровотечение в качестве побочного эффекта и используется только у некоторых пациентов с раком легких. В этом случае это определенно не требовалось.

Частью проблемы может быть то, как система была обучена. Вместо того, чтобы обучаться на реальных пациентах, Уотсон предположительно обучался гипотетическим сценариям. Но это так же легко могло быть уловкой. Лечение рака тяжелое, и любая система, в которой врач (реальный или искусственный) требуется для взвешивания данных, чтобы прийти к соответствующему лечению, будет некорректным в некоторые моменты времени. Реальный вопрос здесь в том, насколько часто Ватсон ошибается, и насколько успех IBM заключается в том, чтобы система была правильной?

Неудивительно, что Уотсон, искусственный интеллект, который существует в течение нескольких лет, до сих пор мало продвигался с болезнью, которая страдает от человечества с самого раннего существования. Там будет кривая обучения, и она будет крутой. И давайте будем честными - смотреть на лечение рака для места, где компания делает большой всплеск, вероятно, является неправильной целью здесь. Способность Google принимать или делать резервирование ресторана с помощью ИИ является более практичной ближайшей целью, чем создание программы ИИ, которая может безупречно обнаруживать или лечить рак, даже если последняя гораздо более ценна с точки зрения ее воздействия на жизнь человека. ИИ все еще может революционизировать медицину, но, учитывая сложность человеческого тела, неудивительно, что требуется некоторое время, чтобы разблокировать этот потенциал.

Кредит на лучший имидж: Getty Images

Читать далее

IBM прекращает продажи Watson AI для поиска и исследования лекарств

Это громкое отступление для компании, которая активно рекламирует ИИ как полезный для этих целей.

IBM останавливает продажи Watson AI для поиска и исследования лекарств [обновлено]

Это громкое отступление для компании, которая активно рекламирует ИИ как полезный для этих целей.