🚨 1. Неліктен этика мен қауіпсіздік аса маңызды? 1. Почему этика и безопасность критичны?
Тарихи мысал: Нидерландыдағы балалар жәрдемақысы дауы (2019) Реальная история: Скандал детских пособий в Голландии (2019)
Нидерланды салық қызметі жәрдемақы бағдарламасындағы алаяқтықты анықтау үшін ЖИ жүйесін қолданды. Алайда жүйе қос азаматтығы бар отбасыларды (негізінен түрік және марокколық) автоматты түрде "күдікті" деп белгілей бастады. Налоговая служба Нидерландов использовала ИИ-систему для выявления мошенничества. Система начала автоматически отмечать семьи с двойным гражданством (в основном турецкого и марокканского происхождения) как "подозрительных".
- 26 000 отбасы негізсіз айыпталды.26,000 семей незаконно обвинены.
- Адамдар үйлерінен айырылып, банкротқа ұшырады.Многие потеряли дома, обанкротились.
- Нидерланды үкіметі толық құрамда отставкаға кетті.Правительство Нидерландов ушло в отставку полным составом.
Себебі: ИИ дискриминациясы бар тарихи деректерде оқытылды, ал шенеуніктер алгоритмге көзсіз сенді. Почему так произошло: ИИ обучили на исторических данных с дискриминацией, а чиновники слепо доверяли рекомендациям ИИ, не проверяя их.
⚖️ 2. ЖИ-дегі біржақтылық (Bias) және дискриминация 2. Этические вызовы: Предвзятость (Bias) и дискриминация
Деректерден Из данных
ЖИ тарихи деректерден үйренеді. Егер бұрын дискриминация болса (мысалы, Amazon тек еркек бағдарламашыларды жұмысқа алса), жүйе оны "заңдылық" деп қабылдайды. ИИ учится на исторических данных. Если в них была дискриминация (например, Amazon нанимала в основном мужчин), ИИ её "запомнит".
Алгоритмнен Из алгоритма
Бет-әлпетті тану жүйесі тек ақ нәсілді адамдардың суретіне оқытылса, басқа ұлт өкілдерін тануда қателіктер көбейеді (35%-ға дейін қателік). Система распознавания лиц обучена на фотографиях белых людей (90% датасета). При распознавании других рас ошибки достигают 35%.
Адам факторы Человеческий фактор
Шенеуніктер мен қызметкерлер ЖИ ұсыныстарын тексермей, соқыр сеніммен қабылдаған кезде қателіктер заңдастырылады. Когда люди полагаются на рекомендации ИИ, не проверяя их, они усиливают и закрепляют предвзятость на системном уровне.
Нақты мысалдар: Реальные примеры предвзятости:
🛡️ 3. ЖИ Қауіпсіздігі: Киберқауіптер және шабуылдар 3. Безопасность ИИ: Киберугрозы и атаки
1. Prompt Injection (Сұраныс инъекциясы)
Хакер чат-ботқа зиянды нұсқаулық енгізіп, жүйенің ішкі ережелерін бұзуға мәжбүрлейді. Хакер вставляет вредоносные инструкции в запрос (ChatGPT, Claude), заставляя ИИ игнорировать правила.
2. Утечка данных (Деректердің жылыстауы)
Мемлекеттік қызметкер ашық ChatGPT-ге құпия құжатты енгізгенде, ол деректер шетелдік серверлерде сақталып қалады (мысалы, Samsung инциденті, 2023). Ввод конфиденциальных документов в открытый ChatGPT приводит к их сохранению на серверах OpenAI (США) и возможной утечке (кейс Samsung, 2023).
3. Deepfake (Дипфейк)
Адамның даусы мен бейнесін айнытпай жасайтын ИИ. 2024 жылы Гонконгта мошенниктер deepfake бейнеқоңырау арқылы $25 млн ұрлады. Синтетическое видео/аудио. В 2024 в Гонконге хакеры через deepfake-видеозвонок от имени финдиректора украли $25 млн.
4. Data Poisoning (Деректерді улау)
Оқыту деректер базасына қасақана қате ақпарат қосу. Нәтижесінде ИИ алаяқтарды "сенімді" деп танитын болады. Хакер вставляет вредоносные данные в датасет для обучения. ИИ обучается пропускать мошенников как "надежных".
📜 Қазақстанның ЖИ туралы жаңа заңы (2025) Новый закон Казахстана об ИИ (2025)
2025 жылғы 24 қыркүйекте Парламент Мәжілісі "Жасанды интеллект туралы" Заңды енгізді. Бұл Орталық Азиядағы алғашқы мамандандырылған заң! 24 сентября 2025 года Мажилис Парламента РК внес Закон "Об ИИ". Это первый специализированный закон в Центральной Азии!
Азаматтардың құқықтары: Права граждан:
- ✅ Түсіндіру құқығы:Право на объяснение: ЖИ шешімінің себебін сұрау.Запросить объяснение, почему ИИ принял решение.
- ✅ Қайта қарау құқығы:Право на пересмотр: Шешімге шағымдану.Обжаловать решение, принятое ИИ.
- ✅ Бас тарту құқығы:Право на отказ: ЖИ емес, адамның қызметін талап ету.Отказаться от взаимодействия с ИИ и потребовать человека.
Қатаң ТЫЙЫМ салынады: Категорически ЗАПРЕЩЕНО:
- ❌ Әлеуметтік рейтинг (Қытайдағыдай).Системы социального рейтинга (как в Китае).
- ❌ Адам эмоцияларын манипуляциялау.Эксплуатация и манипуляция эмоциями.
- ❌ Келісімсіз дербес деректерді жинау.Сбор персональных данных без согласия.
Тәуекел санаттары: Классификация рисков:
✅ ЖИ-ді этикалық енгізудің 7 принципі 7 принципов этичного ИИ
🤔 Практикалық Интерактивті Блок Практический Интерактивный Блок
Төмендегі ситуацияларды оқып, қандай қауіп немесе заң бұзушылық бар екенін анықтаңыз. Прочитайте ситуации ниже и определите, какая угроза или нарушение закона в них кроется.
Ситуация 1: Ситуация 1:
Сіздің әріптесіңіз азаматтардың ЖСН (ИИН) және мекенжайлары бар тізімді көшіріп алып, ChatGPT-ге: "Осы деректерден қателерді тексерші" деп жазды. Сотрудник вашего отдела скопировал список с ИИН и адресами граждан в ChatGPT с запросом: "Проверь эти данные на ошибки".
Ситуация 2: Ситуация 2:
Министрлік азаматтардың әлеуметтік желілерін сараптап, оларға "сенімділік индексін" беретін ЖИ жүйесін іске қосты. Индексі төмен адамдар мемлекеттік қызмет алу кезінде қосымша тексерістен өтеді. Министерство разработало ИИ, который анализирует соцсети граждан и присваивает им "индекс лояльности". Тех, у кого индекс низкий, проверяют дополнительно при получении госуслуг.
Ситуация 3: Ситуация 3:
ЖИ жүйесі тұрғын үй жәрдемақысына өтінішті автоматты түрде қабылдамай тастады. Азамат "Неге қабылданбады?" деп сұрағанда, жүйе операторы "Компьютер солай шешті, мен білмеймін" деп жауап берді. ИИ-система автоматически отклонила заявку на жилищную субсидию. Когда гражданин спросил "Почему?", оператор ответил: "Компьютер так решил, я не знаю".