ДЕКЛАРАЦИЯ ЭТИЧЕСКИХ ПРИНЦИПОВ СОЗДАНИЯ И ИСПОЛЬЗОВАНИЯ СИСТЕМ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В НИУ ВШЭ
Декларация устанавливает общие принципы, которыми следует руководствоваться преподавательскому и научному сообществу, администрации, обучающимся НИУ ВШЭ при создании и использовании систем искусственного интеллекта* (далее – ИИ) на всех этапах их жизненного цикла, а также при формировании правил регулирования и разрешении конфликтов в указанной сфере.
НИУ ВШЭ рассматривает ИИ как инструмент, обладающий потенциалом обогащения процессов учебной, научной, экспертно-аналитической и административной деятельности. Целью использования технологий ИИ является не только облегчение человеческого труда, но и понимание влияния ИИ на трансформацию технологической, социо-экономической, политической и культурной реальности. Важно не только научиться работать с инструментами ИИ для решения конкретных задач профессиональной деятельности, но делать это осмысленно, критически оценивая получаемые результаты и возможные риски.
Принцип приоритета человеческого общения. ИИ не может вытеснять человеческое общение и совместную работу, которые должны оставаться центральным элементом всей системы образования. Широкое использование ИИ в образовательной, исследовательской, экспертно-аналитической и административной деятельности должно способствовать расширению возможностей межличностного взаимодействия внутри коллектива НИУ ВШЭ.
Принцип информированности и обучающего использования. Руководство университета, факультетов, департаментов и школ, научных подразделений НИУ ВШЭ должны заботиться о повышении информированности работников и обучающихся о принципах работы, правилах и практиках применения ИИ. Перед образовательной системой стоит задача научить работников и студентов использованию ИИ в качестве эффективного инструмента в своей профессиональной деятельности. Они должны научиться не только пользоваться его возможностями, но и понимать принципы устройства, ограничения ИИ, критически оценивать предлагаемые им решения.
Принцип академической честности. Получение знаний с соблюдением академических норм, самостоятельное выполнение работы и развитие критического мышления являются ключевыми составляющими академического процесса. Важно, чтобы ИИ использовался как дополнение, а не как замена естественного интеллекта искусственным. ИИ является источником потенциальной опасности нарушения академических норм, любую информацию, получаемую с его помощью, необходимо проверять.
Принцип прозрачности. В целях соблюдения академических норм, работники и обучающиеся НИУ ВШЭ обязаны выделять результаты своей деятельности, при реализации которой был использован ИИ, указывая характер и объем работ, выполненных с его помощью. При использовании компьютерных программ, имитирующих человеческое общение, необходимо публично сообщать пользователям об отсутствии сопровождения в них со стороны человека.
Принцип конфиденциальности и соблюдения интеллектуальных прав. Разработка и использование ИИ должны быть безопасными, то есть обеспечивать защиту персональных данных, способствовать предотвращению ошибок и минимизации рисков. Не следует вводить персональные данные, конфиденциальную информацию, интеллектуальную собственность третьих лиц на какую-либо платформу ИИ или использовать их в обучении ИИ, если это приводит к нарушению законодательства в данной сфере. При использовании компьютерных программ, имитирующих человеческое общение, необходимо информировать пользователей о характере собираемой и применяемой в их работе персональной информации.
Принцип исключения предвзятости и дискриминации. ИИ обучается на основе данных, созданных людьми, которые могут тиражировать предвзятости и социальные стереотипы, способствующие дискриминации. Поэтому на всех этапах жизненного цикла ИИ необходимо принимать во внимание риски возникновения дискриминации отдельных социальных групп по признакам расовой, национальной, половой принадлежности, политических взглядов, религиозных убеждений, возраста, социального и экономического статуса, инвалидности и т.д. и предпринимать усилия для их предотвращения.
Принцип справедливой доступности. При необходимости использования ИИ в учебном, исследовательском или иных процессах внутри университета важно учитывать возможность возникновения ограничений как правового, так и экономического характера, вследствие которых участники процесса могут оказаться в неравном положении как в доступе к ИИ, так и в отношении справедливости оценивания их работы. Например, в ходе учебного процесса не может быть выдвинуто в качестве обязательного требование об использовании ИИ, влекущего за собой личные финансовые траты. В случае необходимости его использования администрация НИУ ВШЭ принимает меры к тому, чтобы преподаватели и обучающиеся имели к нему равный доступ.
Принцип разумного ограничения. Необходимо взаимодействие работников и обучающихся НИУ ВШЭ по разъяснению рисков и оценке возможных последствий неправомерного использования ИИ. В ходе учебного процесса и выполнения исследовательских работ следует использовать ИИ как полезный инструмент. Системы оценивания и элементы контроля планируемых результатов обучения потребуют пересмотра по мере развития ИИ. НИУ ВШЭ оставляет за собой право вводить ограничения на разработку и использование ИИ в особых случаях при условии, что они не противоречат локальным нормативным актам университета и принципам настоящей Декларации.
Принцип ответственного отношения к созданию и использованию ИИ. Создание и использование ИИ должно осуществляться с соблюдением требований законодательства и локальных нормативных актов НИУ ВШЭ. В случае, если вопрос этими требованиями не урегулирован, следует исходить из необходимости минимизации рисков причинения вреда третьим лицам. Отступление от сформулированных в Декларации принципов может стать предметом моральной оценки со стороны университетского сообщества.
*) «Искусственный интеллект - комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые с результатами интеллектуальной деятельности человека или превосходящие их. Комплекс технологических решений включает в себя информационнокоммуникационную инфраструктуру, программное обеспечение (в том числе, в котором используются методы машинного обучения), процессы и сервисы по обработке данных и поиску решений» (в редакции Указа Президента Российской Федерации от 15.02.2024 № 124)
НИУ ВШЭ рассматривает ИИ как инструмент, обладающий потенциалом обогащения процессов учебной, научной, экспертно-аналитической и административной деятельности. Целью использования технологий ИИ является не только облегчение человеческого труда, но и понимание влияния ИИ на трансформацию технологической, социо-экономической, политической и культурной реальности. Важно не только научиться работать с инструментами ИИ для решения конкретных задач профессиональной деятельности, но делать это осмысленно, критически оценивая получаемые результаты и возможные риски.
Принцип приоритета человеческого общения. ИИ не может вытеснять человеческое общение и совместную работу, которые должны оставаться центральным элементом всей системы образования. Широкое использование ИИ в образовательной, исследовательской, экспертно-аналитической и административной деятельности должно способствовать расширению возможностей межличностного взаимодействия внутри коллектива НИУ ВШЭ.
Принцип информированности и обучающего использования. Руководство университета, факультетов, департаментов и школ, научных подразделений НИУ ВШЭ должны заботиться о повышении информированности работников и обучающихся о принципах работы, правилах и практиках применения ИИ. Перед образовательной системой стоит задача научить работников и студентов использованию ИИ в качестве эффективного инструмента в своей профессиональной деятельности. Они должны научиться не только пользоваться его возможностями, но и понимать принципы устройства, ограничения ИИ, критически оценивать предлагаемые им решения.
Принцип академической честности. Получение знаний с соблюдением академических норм, самостоятельное выполнение работы и развитие критического мышления являются ключевыми составляющими академического процесса. Важно, чтобы ИИ использовался как дополнение, а не как замена естественного интеллекта искусственным. ИИ является источником потенциальной опасности нарушения академических норм, любую информацию, получаемую с его помощью, необходимо проверять.
Принцип прозрачности. В целях соблюдения академических норм, работники и обучающиеся НИУ ВШЭ обязаны выделять результаты своей деятельности, при реализации которой был использован ИИ, указывая характер и объем работ, выполненных с его помощью. При использовании компьютерных программ, имитирующих человеческое общение, необходимо публично сообщать пользователям об отсутствии сопровождения в них со стороны человека.
Принцип конфиденциальности и соблюдения интеллектуальных прав. Разработка и использование ИИ должны быть безопасными, то есть обеспечивать защиту персональных данных, способствовать предотвращению ошибок и минимизации рисков. Не следует вводить персональные данные, конфиденциальную информацию, интеллектуальную собственность третьих лиц на какую-либо платформу ИИ или использовать их в обучении ИИ, если это приводит к нарушению законодательства в данной сфере. При использовании компьютерных программ, имитирующих человеческое общение, необходимо информировать пользователей о характере собираемой и применяемой в их работе персональной информации.
Принцип исключения предвзятости и дискриминации. ИИ обучается на основе данных, созданных людьми, которые могут тиражировать предвзятости и социальные стереотипы, способствующие дискриминации. Поэтому на всех этапах жизненного цикла ИИ необходимо принимать во внимание риски возникновения дискриминации отдельных социальных групп по признакам расовой, национальной, половой принадлежности, политических взглядов, религиозных убеждений, возраста, социального и экономического статуса, инвалидности и т.д. и предпринимать усилия для их предотвращения.
Принцип справедливой доступности. При необходимости использования ИИ в учебном, исследовательском или иных процессах внутри университета важно учитывать возможность возникновения ограничений как правового, так и экономического характера, вследствие которых участники процесса могут оказаться в неравном положении как в доступе к ИИ, так и в отношении справедливости оценивания их работы. Например, в ходе учебного процесса не может быть выдвинуто в качестве обязательного требование об использовании ИИ, влекущего за собой личные финансовые траты. В случае необходимости его использования администрация НИУ ВШЭ принимает меры к тому, чтобы преподаватели и обучающиеся имели к нему равный доступ.
Принцип разумного ограничения. Необходимо взаимодействие работников и обучающихся НИУ ВШЭ по разъяснению рисков и оценке возможных последствий неправомерного использования ИИ. В ходе учебного процесса и выполнения исследовательских работ следует использовать ИИ как полезный инструмент. Системы оценивания и элементы контроля планируемых результатов обучения потребуют пересмотра по мере развития ИИ. НИУ ВШЭ оставляет за собой право вводить ограничения на разработку и использование ИИ в особых случаях при условии, что они не противоречат локальным нормативным актам университета и принципам настоящей Декларации.
Принцип ответственного отношения к созданию и использованию ИИ. Создание и использование ИИ должно осуществляться с соблюдением требований законодательства и локальных нормативных актов НИУ ВШЭ. В случае, если вопрос этими требованиями не урегулирован, следует исходить из необходимости минимизации рисков причинения вреда третьим лицам. Отступление от сформулированных в Декларации принципов может стать предметом моральной оценки со стороны университетского сообщества.
*) «Искусственный интеллект - комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые с результатами интеллектуальной деятельности человека или превосходящие их. Комплекс технологических решений включает в себя информационнокоммуникационную инфраструктуру, программное обеспечение (в том числе, в котором используются методы машинного обучения), процессы и сервисы по обработке данных и поиску решений» (в редакции Указа Президента Российской Федерации от 15.02.2024 № 124)