فهم مخاطر الصوت والذكاء الاصطناعي
تشير النتائج إلى أن أصواتنا تحمل إشارات كثيرة عن أصحابها، إذ يمكن للمستمع معرفة مستوى التعليم والحالة العاطفية والمهنة والوضع المالي إذا تعرف على ما يبحث عنه من الإشارات.
تكشف الأبحاث الحديثة أن تحويل الصوت إلى نص قد يستخدم في ممارسات ضارة مثل رفع الأسعار بشكل غير عادل، أو التصنيف التمييزي، أو المضايقة، أو الملاحقة، فبينما يلاحظ الإنسان علامات مثل التعب أو التوتر أو السعادة، تستطيع الخوارزميات التقاط تفاصيل أدق بكثير.
تشير دراسة منشورة في دورية Proceedings of the IEEE إلى أن أنماط التنغيم واختيار الكلمات قد تكشف عن التوجهات السياسية الشخصية، ووجود حالات صحية، إضافة إلى معلومات حساسة أخرى، وتسلط الضوء على مخاوف تتعلق بانتهاك الخصوصية والتصرفات غير العادلة.
أهداف أخلاقية أم استخدامات مثيرة للشك؟
قال الباحث إن تقنيات الكشف الآلي عن الغضب والسلوك السام في الألعاب ومراكز الاتصالات تقود نقاشاً عاماً لأنها مفيدة وتقوم عليها أسس أخلاقية، لكن يحذر من أن التوسع في استخدام واجهات التخاطب الصوتي مع العملاء ليحاكي أسلوب المتحدث قد يكشف عن أهداف أخلاقية أو حتى خبيثة يمكن تحقيقها.
ذكر الباحث أنه لم يسمع عن حالات ضبط لاستخدام غير مناسب لهذه التقنيات، إلا أنه لا يعرف إن كان السبب أن أحداً لم يفعل ذلك أم أننا لم ننتبه أو لم نبحث بما يكفي.
أصواتنا كبصمة رقمية دائمة
تشير النتائج إلى أن أصواتنا مسجلة في أماكن لا حصر لها، فكل رسالة صوتية نتركها وكل مكالمة يُبلَّغ فيها بأن الاتصال مسجل لأغراض التدريب وضمان الجودة يضيف تسجيلًا جديدًا إلى أرشيف رقمي ضخم، يقارب حجم بصمتنا الرقمية.
يطرح التقرير سؤالاً مباشراً: إذا أدركت شركة تأمين كبرى أنها تستطيع زيادة أرباحها عبر تسعير التغطية بناءً على معلومات تستخلصها من أصوات العملاء باستخدام الذكاء الاصطناعي، فما الذي يمنعها من ذلك؟
يرى الباحث أن مجرد طرح هذه القضية قد يفتح باباً لتنبيه الجمهور والجهات المعادية، لكنه يؤكد أن كثيراً من أدوات تعلم الآلة القادرة على إجراء تحليلات تنتهك الخصوصية متاحة بالفعل، وأن إساءة استخدامها ليست احتمالاً بعيداً، وأن من يدرك هذه الإمكانات مبكراً قد يملك ميزة كبيرة.
ويؤكد أن وعي الجمهور بالمخاطر ضرورة ملحة، محذراً من أن تجاهلها يمنح الشركات الكبرى والدول التي تمارس المراقبة تفوقاً واضحاً، مع الأمل في إمكانية اتخاذ خطوات عملية لمواجهة التحدي.
كيف يمكن حماية الصوت من الاستغلال
يطرح المقترحات الهندسية التي قد توفر حماية أفضل، وتبدأ بقياس ما يكشفه الصوت بدقة، إذ يصعب تطوير أدوات حماية فعالة دون معرفة طبيعة المعلومات المعرضة للخطر.
أُنشئت مجموعة الاهتمام بالأمن والخصوصية في اتصالات الكلام كمنصة بحثية متعددة التخصصات تهدف لوضع إطار لقياس المعلومات التي يحتويها الكلام وتقييم حجمها.
تقترح المقترحات إمكانية نقل الحد الأدنى من المعلومات اللازمة لإتمام أي معاملة، فمثلاً يمكن للنظام تحويل الكلام إلى نص لاستخراج البيانات الأساسية المطلوبة فقط، وبذلك يدخل الموظف المعلومات في النظام دون الاحتفاظ بسجل المكالمة، أو يحول الهاتف الكلام إلى تدفق نصي يرسل مباشرة، ويؤكد الباحث أن المعلومات المرسلة إلى مزود الخدمة يجب أن تقتصر على الحد الأدنى اللازم.
تؤكد أن التقنية تحمل وعوداً كبيرة إذا وضعت لها ضوابط وأطر أخلاقية واضحة، وتؤكد أن واجهات التخاطب الصوتي يمكن أن تستخدم بطرق إيجابية جداً، وأن جزءاً كبيراً من الأبحاث يتركز على تطوير تقنيات تتكيف مع المستخدمين وتكون أكثر طبيعية في الاستخدام.
تثير التكيّف نفسه مخاوف تتعلق بالخصوصية لأنه يتطلب تحليل معلومات خاصة مثل المهارات اللغوية للمستخدمين، لذا فالمسألة ليست إزالة المعلومات الخاصة بشكل كامل، بل تحديد نوع المعلومات التي يجري استخراجها وكيفية استخدامها والغاية من استخدامها.
