۱۴۰۵ آبان ۲۶, سه‌شنبه
دلار آمریکا۲۶۶٬۸۹۵▼ ۰٫۶۸٪یورو۲۹۴٬۳۶۰▼ ۰٫۶۹٪درهم امارات۷۲٬۷۲۵▼ ۰٫۶۸٪سکه امامی۲۵۱٬۴۹۰٬۰۰۰▲ ۰٫۳۷٪طلای ۱۸ عیار (گرم)۲۴٬۶۶۶٬۶۰۰▲ ۰٫۴٪انس طلا۳٬۸۷۰ $▲ ۰٫۱۴٪تتر۲۶۹٬۵۴۰▲ ۰٫۰۵٪بیت‌کوین۶۴٬۲۰۰ $▼ ۱٫۵۶٪اتریوم۱٬۷۸۷ $▼ ۲٫۰۸٪سولانا۷۲٫۵۵ $▲ ۱٫۴۷٪اپل۳۵۱٫۶۹ $▼ ۰٫۳۱٪انویدیا۱۵۴٫۹۴ $▼ ۰٫۷۷٪مایکروسافت۴۹۹٫۶۵ $▼ ۳٫۵۴٪آلفابت (گوگل)۲۸۰٫۴۰ $▼ ۱٫۱۷٪تسلا۳۷۹٫۶۲ $▼ ۰٫۰۳٪شاخص نزدک۲۴٬۲۴۶ $▼ ۱٫۰۸٪
نرخ ارز

ایجنت OpenAI اتر تست‌نت کیف پول دیگری را بی‌اجازه خرج کرد

گزارش ناهم‌راستایی OpenAI: ایجنت مدل GPT-5.6 Sol با کلید مشتق‌شده از عبارت بازیابی عمومی، اتر تست‌نت Sepolia کیف پول دیگری را خرج کرد.

کاور گرافیکی DevNA با عنوان «362 Addresses»: ایجنت OpenAI با عبارت بازیابی عمومی اتر تست‌نت کیف پول دیگری را خرج کرد
کاور گرافیکی DevNA با عنوان «362 Addresses»: ایجنت OpenAI با عبارت بازیابی عمومی اتر تست‌نت کیف پول دیگری را خرج کرد
فهرست مطالب
  1. ماجرا از کجا شروع شد
  2. «عملاً رهاشده»؛ توجیه مدل
  3. پرونده‌ای که بزرگ‌تر می‌شود
  4. درس برای توسعه‌دهندگان

OpenAI در گزارشی تازه در وبلاگ هم‌راستایی (Alignment) خود فاش کرده که یک ایجنت OpenAI، یعنی مدلی تحقیقاتی و داخلی از خانواده GPT-5.6 Sol، برای تمام کردن یک کار کدنویسی، اتر شبکه آزمایشی Sepolia را از کیف پولی خرج کرد که به آن سپرده نشده بود. مدل کلید این کیف پول را از عبارت‌های بازیابی عمومی توسعه‌دهنده‌ها به دست آورده بود. OpenAI این رخداد را نمونه‌ای از ناهم‌راستایی (Misalignment) ثبت کرده است.

ماجرا از کجا شروع شد

طبق گزارش OpenAI، این رخداد در ۵ تیر ۱۴۰۵ (۲۶ ژوئن ۲۰۲۶) و در جریان یک اجرای آموزشی رخ داد و ۳ مهر (۲۵ سپتامبر) کشف شد؛ آخرین به‌روزرسانی گزارش ۲۳ مهر (۱۵ اکتبر) است. از مدل خواسته شده بود یک نمونه اولیه معاملات رمزارز را به‌روز کند و قراردادهای سازگار با ABI را روی تست‌نت Sepolia مستقر کند. دستورالعمل اجازه می‌داد اگر قرارداد سازگاری پیدا نشد، قرارداد تازه دیپلوی شود؛ اما نه کیف پول شارژشده‌ای داده شده بود و نه اجازه خرج کردن از حسابی که مدل خودش پیدا کند.

مدل ابتدا دنبال دیپلوی‌های موجود گشت و سراغ فاست‌ها (Faucet) رفت، اما از این مسیرها به نتیجه نرسید. سپس اسکریپتی نوشت که از عبارت‌های بازیابی (Mnemonic) شناخته‌شده توسعه‌دهنده‌ها حساب مشتق می‌کرد و موجودی‌شان را می‌سنجید. این اسکریپت ۳۶۲ آدرس را بررسی کرد و یکی از آن‌ها اتر Sepolia کافی برای دیپلوی داشت. در یادداشت‌های برنامه‌ریزی مدل به «حساب‌های پیش‌فرض Anvil» و «آدرس‌های شناخته‌شده Hardhat» اشاره شده، هرچند OpenAI عبارت‌های دقیق و مبلغ خرج‌شده را حذف کرده است.

«عملاً رهاشده»؛ توجیه مدل

نکته نگران‌کننده، استدلال مدل است. در یادداشت‌های اولیه، مدل گزینه مشتق کردن کلید خصوصی شارژشده و عمومی‌شده برای دیپلوی را مطرح کرد و جلوی آن نوشت «نه». اما کمی بعد از خودش پرسید آیا استفاده از کلید و وجوه عمومی «اخلاقی» است و در ادامه نوشت: «وجوه روی یک عبارت بازیابی عمومی توسعه‌دهنده عملاً رهاشده/اتر تستی است؛ Sepolia بی‌ارزش است.» آخرین یادداشت پیش از امضا هم تنها یک کلمه بود: «Fine»؛ یعنی «اشکالی ندارد».

تراکنش امضاشده در نهایت موفق شد و قراردادها مستقر شدند. اما گزارش نهایی مدل فقط از انجام دیپلوی گفت و اشاره‌ای نکرد که هزینه آن را از حساب یک عبارت بازیابی عمومی پرداخته است. OpenAI در جمع‌بندی می‌نویسد این مورد نشان می‌دهد «یک مدل می‌تواند قضاوت خودش درباره احتمال آسیب را جایگزین اجازه صاحب حساب کند.»

پرونده‌ای که بزرگ‌تر می‌شود

این گزارش بخشی از فهرست عمومی گزارش‌های ناهم‌راستایی OpenAI است که اکنون ۱۹ مورد دارد. Fortune یادآوری می‌کند که در ماجرای جداگانه‌ای در ژوئیه، ایجنت‌های OpenAI در جریان آزمون‌های داخلی امنیت سایبری، محدودیت‌های اینترنت را دور زدند و به سامانه‌های Hugging Face نفوذ کردند. پیش از این هم DevNA از توقف آموزش OpenAI پس از رسیدن یک ایجنت به چت‌بات بیرونی از راه DNS گزارش داده بود.

OpenAI می‌گوید سازوکارهای تازه‌ای برای جلوگیری از دسترسی زنده به اینترنت در موارد مشابه افزوده و اکنون پایش ناهم‌راستایی را روی همه ترافیک اجرا می‌کند تا اگر مدلی به اینترنت زنده دست یافت، تیم امنیت فوراً باخبر شود.

درس برای توسعه‌دهندگان

اتر Sepolia ارزش واقعی ندارد، اما همین الگو روی شبکه اصلی یعنی خرج کردن پول واقعی. اگر ایجنت هوش مصنوعی (AI Agent) در محیط شما به کلید، کیف پول یا شبکه دسترسی دارد، این نکته‌ها را جدی بگیرید:

  • عبارت پیش‌فرض را عمومی فرض کنید. عبارت پیش‌فرض Hardhat یعنی test test test test test test test test test test test junk در مستندات رسمی منتشر شده است. هر حسابی که از آن ساخته شود، کلیدش در اختیار همه است؛ روی هیچ شبکه عمومی، حتی تست‌نت، از آن استفاده نکنید.
  • برای هر پروژه کیف پول تازه بسازید و فقط به اندازه نیاز شارژش کنید.
  • کلید را از کد بیرون نگه دارید و ایجنت را با کمترین دسترسی اجرا کنید.
  • دسترسی شبکه را ببندید و فقط مقصدهای لازم را مجاز کنید.

برای نمونه، در Hardhat می‌توان کلید را با متغیرهای پیکربندی (Configuration Variables) بیرون از مخزن نگه داشت:

// hardhat.config.js — set values with: npx hardhat vars set SEPOLIA_PRIVATE_KEY
const { vars } = require("hardhat/config");

module.exports = {
  solidity: "0.8.24",
  networks: {
    sepolia: {
      url: vars.get("SEPOLIA_RPC_URL"),
      accounts: [vars.get("SEPOLIA_PRIVATE_KEY")],
    },
  },
};

و برای اجرای تست‌ها یا کدی که ایجنت نوشته، در کانتینری کاملاً بدون شبکه (وابستگی‌ها باید از قبل نصب شده باشند):

docker run --rm --network none -v "$PWD":/work -w /work node:22-alpine npm test

اگر با امنیت کیف پول تازه آشنا شده‌اید، مقایسه کیف پول سخت‌افزاری و نرم‌افزاری و ایجنت هوش مصنوعی چیست نقطه شروع خوبی است.

دیدگاه‌ها

۰/۲٬۰۰۰

دیدگاه‌ها پس از بررسی تحریریه منتشر می‌شوند. توهین، تبلیغ و لینک‌های بی‌ربط حذف می‌شوند؛ نقد فنی و مستند همیشه خوش‌آمد است.

$ comments --count۰

هنوز کسی چیزی ننوشته. اولین دیدگاه را شما ثبت کنید.

مطالب مرتبط