Отрезвляющий взгляд на #ИИ
- АВТОР: Глеб Кузнецов (это моя произвольная выжимка)
- Для ИИ есть ограничения. Данные для обучения конечны. Вычислительные мощности упираются в физику чипов и энергетику. Но главное – социальные и экономические системы имеют инерцию и сопротивление.
- Компании-разработчики обещают "безопасный" и "ответственный" ИИ. Но в пользовательских соглашениях – стандартные дисклеймеры: не используйте для медицинских советов, финансовых решений, юридических консультаций. "Мы не несём ответственности за решения нашего ИИ". Как же тогда этот ИИ заменит экспертов, вся суть работы которых – в принятии ответственности? Врач, инженер, журналист идут под суд за ошибки. Создатели Claude? "Это просто языковая модель". В более суровых юрисдикциях разработчики, понимая, на кого повесят неосторожную фразу модели, буквально кастрируют их, делая бесполезными для огромного спектра целей.
- Модели становятся мощнее, бенчмарки растут, задачи решаются быстрее. Но вся бизнес-модель BigTech построена на принципе: приватизация прибыли, национализация издержек. Google обучил модели на всём интернете без спроса, Facebook, ТикТок, X монетизируют данные пользователей, не отвечая за последствия. Но принятие на себя ответственности эксперта убьёт бизнес-модель.
- Технари рассказывают о приближающемся AGI, показывают инвесторам экспоненциальные графики. В тот же момент их юристы пишут всё более длинные дисклеймеры. PR-отделы повторяют: "Это просто инструмент, решения принимает человек". А риск-менеджеры категорически запрещают давать любые гарантии. Если что и растёт экспоненциально, так это разрыв между техническими возможностями, создаваемыми инженерами, и готовностью их работодателей нести за это ответственность. Чем ближе ИИ к "уровню эксперта", тем больше текста в пользовательском соглашении. Вероятно, ИИ действительно сможет быть технически способен работать на уровне эксперта. Но он этого не будет делать, потому, что ни одна компания бигтеха не согласится нести ответственность за этого эксперта.