Искусственный интеллект на службе бизнеса - читать онлайн книгу. Автор: Джошуа Ганс, Аджей Агравал, Ави Голдфарб cтр.№ 51

Но представьте, что ИИ учится и совершенствуется в реальной среде. Тогда он сможет быстрее реагировать на смену обстановки и оптимизироваться под разные условия. В среде, где все быстро меняется, разумнее улучшать прогностические машины непосредственно на устройствах. В таких приложениях, как Tinder (приложение для знакомств, где движение по экрану влево означает «нет», а вправо – «да»), пользователи быстро принимают много решений подряд. Эти данные сразу загружаются в прогностическую машину для подбора следующего кандидата на свидание. Вкусы у всех разные и непостоянные, меняются и за год, и в течение дня. В случаях, когда пользователи до определенной степени похожи и у них стабильные предпочтения, подходит отправка в облако с последующим обновлением. Но когда вкусы резко расходятся и часто меняются, пригодится способность совершенствовать прогнозы на уровне устройства.

Компании должны искать компромисс в том, как скоро опыт прогностической машины в реальном мире понадобится для составления новых прогнозов. Мгновенное использование опыта обеспечит быструю адаптацию к местным условиям, но ценой качества.

Для обучения нужны потребители, согласные предоставлять данные. Если что-то в стратегии делается в ущерб чему-то другому, то в сфере ИИ немногие компании раньше и активнее проявили приверженность стратегии ИИ, чем Apple. В специальном разделе, на странице, посвященной конфиденциальности, СЕО Apple Тим Кук написал: «Самое главное для Apple – ваше доверие. Поэтому мы уважаем ваше право на конфиденциальность и защищаем ее криптостойким шифрованием и строгими правилами обращения с данными» ^[140].

Далее он продолжил:

Apple приняла такое решение не под давлением закона (некоторые утверждают, что из-за отставания в разработке ИИ от Google и Facebook). Ни одна компания, и в том числе Apple, не может отказаться от ИИ, стратегическая приверженность усложнит работу. Компания планирует создавать ИИ с соблюдением конфиденциальности и делает крупную стратегическую ставку на то, что пользователи захотят получить контроль над собственными данными. Apple уверена, что ее политика повысит, а не понизит вероятность установки пользователями ИИ в свои устройства ^[142]. И она не одинока во мнении, что защита конфиденциальности окупится. Salesforce, Adobe, Uber, Dropbox и многие другие уже вложили в конфиденциальность немалые средства.

Это стратегическая ставка. Многие компании, в том числе Google, Facebook и Amazon, избрали другой путь и сообщают потребителям, что намерены использовать их данные для повышения качества продукта. Акцент Apple на конфиденциальности ограничивает диапазон ее продуктов. Например, и у Apple, и у Google в фотоприложение встроена функция распознавания; чтобы она работала, всем лицам необходимо присваивать метки. Google сохраняет их на сервере, и распознавание возможно на любом устройстве. Но Apple ради сохранения конфиденциальности проводит распознавание на уровне устройства. То есть, если отметить знакомых на компьютере Mac, на iPhone и iPad метки не появятся. В такой ситуации забота о конфиденциальности противоречит удобству использования (когда мы пишем книгу, неизвестно, как Apple собирается решать эту проблему).

Мы не знаем, как все обернется на практике. В любом случае с экономической точки зрения очевидно, что итоговый стратегический выбор обусловит относительная отдача от предпочтения конфиденциальности в ущерб прогностической точности. Повышенная конфиденциальность может позволить компании узнавать о пользователях, но толку от этих знаний будет мало.

Навигационное приложение Waze собирает данные пользователей для прогнозирования ситуаций на дорогах. Лично для вас оно подберет кратчайший маршрут. Если бы это было его единственной задачей, проблем бы не возникло. Но прогноз меняет поведение людей, а Waze разработано для прогнозирования. И если приложение получает информацию от массы пользователей, то прогнозы могут искажаться.

Загвоздка в том, что пользователи Waze последуют по предложенному маршруту объезда пробок, вероятно, по переулкам. И если приложение не сделает поправки, то может не узнать, что препятствие устранено и обычный маршрут снова стал кратчайшим. Следовательно, для разрешения этой проблемы приложению придется направить по нему нескольких водителей для проверки. Их принесут в жертву ради блага других, и, разумеется, они разочаруются в продукте.

Когда прогноз меняет поведение толпы и тем самым лишает ИИ необходимой для прогнозирования информации, компромиссное решение найти непросто. В данном случае потребности большинства ставятся выше предпочтений нескольких человек (или одного). И это определенно не лучший пример отношения к клиентам.

Иногда для улучшения продукта, особенно в обучении посредством использования, важно встряхнуть систему таким образом, чтобы потребитель действительно получил совершенно новый опыт, полезный для обучения машины. Принудительно попав в новую среду, клиенты чаще всего получат негативное впечатление, но от этого выигрывают все остальные. В бета-тестировании это происходит добровольно, поскольку клиенты используют ранние версии. Однако некоторые участники бета-тестирования применяют продукт иначе, чем обычные клиенты. Иногда необходимо пожертвовать качеством продукта для получения обратной связи от нетипичных пользователей ради общей выгоды.

Нехватка опыта приобретает еще большее значение, когда речь идет о людях. Если опыта набирается машина, он может проходить мимо человека. Согласно недавним предположениям, автоматизация грозит человечеству утратой навыков.

В 2009 году над Атлантическим океаном потерпел крушение рейс 447 Air France Рио-де-Жанейро – Париж. Сначала испортилась погода, затем отключился автопилот. По сообщениям в печати, в отличие от Салли из US Airways, неопытный пилот не справился с ситуацией. Когда его место занял квалифицированный коллега (до этого он спал), то не смог правильно оценить обстановку, потому что накануне ночью не выспался ^[143]. Суть в том, что почти трех тысяч летных часов молодого пилота оказалось недостаточно, поскольку большую часть из них он летал с автопилотом.