0
0
Вы должны задавать голосовой динамик интимные вопросы о вашем здоровье? И важно, что ученые за систем ИИ, на самом деле понять, как они работают?
Эти два вопроса, на которые мы стремимся ответить в теч этой недели в палатке подкаст.
- Слушать новейшие технологии шатер подкаст на Би-би-си звучит
«Каковы симптомы болезни Паркинсона?»
Если вы являетесь пользователем Великобритания поставив этот вопрос с голосовым управлением ораторов Амазонки, ответ, вероятно, сейчас пришла от НСЗ, благодаря новому партнерству между гигант и Национальной службы здравоохранения Великобритании.
По сути, происходящее-это веб-поиска простой, что отдается предпочтение полезной и точной информации.
Что не может звучать спорно, но тут же у многих людей возникают опасения по поводу НГС работа с технологическим гигантом, как Амазонка.
«Что меня беспокоит, это то, что НГС имеет искать партнерство с Амазон, который, кажется, чтобы поощрять людей, чтобы дать частную медицинскую сведений о компании, что прибыль от людей личные данные,» силки Карло из похода группы Большой Брат смотреть говорит программы.
Компания Амазон утверждает, что не будет делиться данными с третьими сторонами или используя какие-либо вопросы здоровья для целевой рекламы на клиентов.
Но не убедил Карло.
«Как бы они были в состоянии отличить людей, которые ищут книги и музыка и люди, которые ищут информацию о проблемах со здоровьем?» — она спрашивает.
Если это означает, что компания Amazon намерен создать отдельный набор проблем здоровья людей, что является еще более тревожным, — она говорит.
Высокое качество
Но Уильям городе городе Tunstall-Pedoe, чья компания разработала программное обеспечение, которое стало Алекса, придерживается иной точки зрения.
Он больше не имеет соединения с Амазон, но говорит, что люди стали просить Алекса вопросы здоровья на долгие годы и важно, чтобы они получили хорошие ответы.
«Это партнерство означает, что информация является высокое качество, врач-водить информацию от НСЗ, где раньше, возможно, не было», — говорит он.
Он говорит, что является законным, чтобы иметь опасения относительно того, как данные по здоровья будут использованы, но те же заботы применяются для каждого двигателя поиска, которые мы используем, чтобы задать подобные вопросы.
В качестве искусственного интеллекта и автономных систем быстрого продвижения, возникают две другие проблемы.
Иногда ученые за АИ не очень понятно, что происходит внутри их системы черного ящика. Иногда пользователи техники даже не догадываются, что машины принимают решения без участия человека.
Исследователи центра для обеспечения автономии в Великобритании-Йоркского университета называют это явление «случайное автономии».
Директор Центра Проф Джон Макдермида приводит пример: программное обеспечение, которое обвиняют в двух ДТП с участием Макса самолетов Боинг 737.
«Чтобы избежать того, чтобы переучить пилотов, Боинг решил не говорить им об системным мышлением, он будет работать автоматически в фоновом режиме. В сущности, они не должны знать», — говорит он.
Он говорит, что с жизненно важными программного обеспечения, важно, что операторы — пилоты в данном случае — понять, что происходит и в состоянии взять на себя управление от автономной системы в случае необходимости.
Его доктор Ана Макинтош говорит коллега, что есть более широкая проблема с пониманием того, что происходит внутри всяких сложных систем ИИ.
«В ‘explainability’ решений, которые принимаются системах очень отличается от разговора с человеком, которые ранее могли бы сделать эти решения», — говорит она.
«Мы не понимаем, во многих случаях, как эти решения принимаются».
Умные машины играют большую роль во всем от здравоохранения до безопасности полетов, но они принесли с ними новые этические дилеммы.
