Магистратура "Безопасность и этика искусственного интеллекта" ОмГТУ, Омск

Программа нацелена на подготовку специалистов в области искусственного интеллекта (ИИ) с углубленной подготовкой в области безопасности ИИ. Программа даст возможность выпускникам проводить анализ безопасности систем ИИ, применяемым на производствах, а также самостоятельно разрабатывать системы, способные обеспечить необходимый уровень безопасности.

Выпускники данной программы получат компетенции и навыки необходимые для проведения анализа безопасности систем ИИ, научатся проводить анализ безопасности конкретных систем и предлагать необходимые средства/методы защиты для различных классов систем.

Внедрение систем ИИ в повседневную жизнь сопряжено со множеством серьезных и сложных технических и социальных проблем, принципиально важно, что система ИИ способна:

• самостоятельно принимать решения, касающиеся человека;
• анализировать данные в таких объемах и с такой скоростью, как человек делать не в состоянии (следовательно, человек не может проверить верность решений).

Соответственно, основная проблема ― определение того, насколько решения, принимаемые интеллектуальной информационной системой (ИИС), соответствуют этическим нормам и требованиям безопасности. В рамках программы большое внимание уделяется проектирования ИИС с учетом всех социальных и технических требований.

Выпускник и специалист данной образовательной программы решает задачи анализа больших данных, проектирования безопасных ИИС с использование средств криптографии и защиты от несанкционированного доступа, человекомашинного взаимодействия с ИИС, машинной этики, прогнозирования поведения ИИС.

Изучаемые дисциплины:

• Основы предпринимательства
• Интеллектуальные системы
• Математические основания информатики
• Архитектура параллельных вычислительных систем
• Методология научного познания
• Управление проектированием информационных систем
• Построение и оптимизация алгоритмов
• Технология разработки программного обеспечения.

Вариативная часть:

• Машинное обучение
• Введение в нейронные сети
• Этика и правовые проблемы искусственного интеллекта
• Аналитическая обработка данных в задачах информационной безопасности
• Машинное обучение в приложениях биометрии
• Криптография и криптографические протоколы
• Доверенный искусственный интеллект
• Защищенное исполнение искусственного интеллекта
• Аппаратно-программные средства защиты информации в компьютерных системах
• Теория информации и теория кодирования
• Основы построения защищенных компьютерных сетей
• Анализ данных в искусственном интеллекте
• Атаки на нейронные сети.

Дисциплины по выбору:

• Русский язык как иностранный
• Иностранный язык.