Вот, например эта, «Экология доверия» (Trust ecology). Она черпает вдохновение из природных экологических систем, где устойчивость и баланс возникают из взаимосвязей, а не из централизованного контроля.
«Природа создавала устойчивые, самокорректирующиеся системы на протяжении сотен миллионов лет», — сказал автор идеи Шекхар Натараджан, новатор в области искусственного интеллекта и изобретатель с более чем 25-летним опытом разработки крупномасштабных технологических и логистических систем для глобальных предприятий. За свою карьеру он занимал руководящие должности в таких организациях, как Walmart, Disney, Target, Coca-Cola и PepsiCo, и является обладателем 207 патентов, связанных с искусственным интеллектом и корпоративными системами.
Своей концепцией он предлагает внедрять этику, подотчетность и поведенческую целостность непосредственно в системы ИИ. Автор предлагает это делать через четыре взаимосвязанных слоя: «Почва» - внедрение этических принципов в вычислительную основу системы; «Корни» - отображение того, как человеческий фактор и ИИ влияют на результаты; «Годовые кольца» - фиксируют поведение систем ИИ на примере тысяч решений и выявляют закономерности; «Погода» - применение стандартов подотчётности как к людям, так и к ИИ в процессах принятия решений.
Концепция «экологии доверия» переосмысливает ответственность за ИИ, смещая акцент с индивидуальной идентификации на системную целостность. Вместо того чтобы спрашивать, кто принял конкретное решение в сложной сети взаимодействия человека и ИИ, эта концепция оценивает, способна ли общая среда принятия решений структурно обеспечить этичные и заслуживающие доверия результаты.
Поскольку смешанные среды принятия решений человеком и ИИ продолжают расширяться в критически важных секторах — от банковского дела и больниц до судов и корпоративного управления — потребность в надежных системах доверия становится все более актуальной. По словам Натараджана, концепция Trust Ecology решает не только нормативные проблемы, но и недостатки архитектурного проектирования существующих систем ИИ.
Как бы не менялся мир, сценарии его развития так или иначе строятся вокруг экологии – будь то трансформация в ESG, природоподобные технологии или биосфера как новая трансграничная политика. Удастся ли искусственный интеллект подчинить экологии? Как минимум, здесь важно желание человека.
