ИИ уже умеет убедительно писать, рисовать и подражать голосам — и иногда ошибается так уверенно, что с первого взгляда это не заметить. Особенно тревожно, когда поддельное аудио или видео используют, чтобы обмануть близких или распространить выдуманную новость. Проверяете ли вы такие сообщения, прежде чем переслать?
Есть и менее киношный, но вполне бытовой повод задуматься: алгоритмы помогают решать, что показать в ленте, какую рекламу предложить и какие резюме рассмотреть. Обычно непонятно, почему система выбрала именно этот вариант и можно ли оспорить её решение. А если в данных есть перекос, автоматизация способна его не убрать, а закрепить.
При этом ИИ не обладает человеческим пониманием и может выдавать правдоподобные ошибки. Поэтому полезно перепроверять важные сведения, не отправлять сервисам пароли и личные документы и уточнять у человека, если голосовое сообщение с необычной просьбой кажется подозрительным. Что в развитии ИИ тревожит вас сильнее всего — подделки, сбор данных, влияние на работу или что-то другое? И какие меры правда помогают, а какие только создают видимость безопасности?
Есть и менее киношный, но вполне бытовой повод задуматься: алгоритмы помогают решать, что показать в ленте, какую рекламу предложить и какие резюме рассмотреть. Обычно непонятно, почему система выбрала именно этот вариант и можно ли оспорить её решение. А если в данных есть перекос, автоматизация способна его не убрать, а закрепить.
При этом ИИ не обладает человеческим пониманием и может выдавать правдоподобные ошибки. Поэтому полезно перепроверять важные сведения, не отправлять сервисам пароли и личные документы и уточнять у человека, если голосовое сообщение с необычной просьбой кажется подозрительным. Что в развитии ИИ тревожит вас сильнее всего — подделки, сбор данных, влияние на работу или что-то другое? И какие меры правда помогают, а какие только создают видимость безопасности?
Комментарии 9
Обсуждение темы — по порядку