توسعهی ابزارهای هوش مصنوعی، همواره فرصتها و تهدیدهای جدیدی به همراه دارد. جدیدترین نسخهی ChatGPT که با مدل GPT-4o عرضه شده، قابلیت تولید تصاویر باکیفیت را دارد، اما این ویژگی اکنون نگرانیهای تازهای را دربارهی امکان جعل اسناد مالی، بهویژه رسیدهای پرداخت، ایجاد کرده است.
با چه ابزاری وارد سایت شدید؟
پیشرفت یا تهدید؟ قدرت جدید ChatGPT در تولید تصاویر
OpenAI در بهروزرسانی جدید ChatGPT، ابزاری را معرفی کرده که به کاربران امکان تولید تصاویر را میدهد. با اینکه این فناوری برای مقاصد خلاقانه و مفید طراحی شده، اما برخی کاربران از آن برای ساخت رسیدهای جعلی استفاده میکنند. این موضوع میتواند به فهرست بلندبالای نگرانیهای پیرامون سوءاستفاده از دیپفیک و هوش مصنوعی اضافه شود.
دیدی داس، یکی از کاربران شبکهی اجتماعی ایکس، با انتشار تصویری از یک رسید جعلی، مدعی شد که این تصویر با مدل جدید GPT-4o ساخته شده است. بهدنبال او، سایر کاربران نیز نمونههای مشابهی را به اشتراک گذاشتند؛ تصاویری که از نظر ظاهری کاملاً واقعی بهنظر میرسند و تشخیص جعلیبودن آنها کار آسانی نیست.
مشکلات محاسباتی، تنها نقطهضعف فعلی
اگرچه این رسیدهای جعلی بسیار متقاعدکننده بهنظر میرسند، اما همچنان دارای نقصهایی هستند. بررسی دقیقتر برخی از این رسیدها نشان میدهد که مدل هوش مصنوعی در انجام محاسبات ساده دچار مشکل میشود. برای مثال، استفادهی نادرست از ویرگول بهجای نقطه در مبالغ نهایی یا اشتباهات در محاسبهی مجموع قیمتها، از جمله ضعفهایی است که ممکن است به شناسایی جعل کمک کند. بااینحال، اصلاح این ایرادات از طریق ابزارهای ویرایش تصویر یا تنظیمات دقیقتر، برای کلاهبرداران کار دشواری نخواهد بود.
پیامدهای احتمالی و چالشهای پیشرو
رشد سریع هوش مصنوعی و توانایی آن در ساخت اسناد جعلی، میتواند تأثیرات گستردهای بر صنایع مالی، تجارت الکترونیک و حتی مراجع قضایی داشته باشد. اگر افراد سودجو بتوانند رسیدهای پرداخت جعلی را بهراحتی ایجاد کنند، احتمال افزایش کلاهبرداریهای مالی بیشتر خواهد شد. این مسئله نهتنها اعتماد کاربران به سیستمهای مالی را کاهش میدهد، بلکه فشار بیشتری را بر بانکها و شرکتهای مالی برای توسعهی راهکارهای شناسایی تقلب وارد میکند.
واکنش OpenAI و آیندهی این فناوری
تایا کریستینسون، سخنگوی OpenAI، اعلام کرده است که تمامی تصاویری که با ChatGPT تولید میشوند، دارای متادیتای مخصوصی هستند که نشان میدهد تصویر توسط هوش مصنوعی ساخته شده است. او همچنین تأکید کرد که OpenAI در صورت مشاهدهی نقض سیاستهای استفاده، اقدامات لازم را انجام خواهد داد. این شرکت همواره در حال بررسی بازخوردهای کاربران و کاربردهای دنیای واقعی فناوریهای خود است تا از سوءاستفادههای احتمالی جلوگیری کند.
نتیجهگیری
ابزارهای تولید تصویر مبتنیبر هوش مصنوعی، پتانسیل بالایی برای نوآوری و خلاقیت دارند، اما همزمان میتوانند به ابزاری برای سوءاستفاده و جعل اسناد تبدیل شوند. چالش اصلی در آینده، یافتن تعادل میان بهرهگیری از این فناوری و کنترل مخاطرات آن خواهد بود. شرکتهای فناوری، مراجع قانونی و کاربران باید همگام با این پیشرفتها حرکت کنند تا از سوءاستفادههای احتمالی جلوگیری شود، درعینحال که مزایای این فناوری حفظ میشود.
