هوش مصنوعی، چالشی تازه در فلسفه و جامعه شناسی

این مطلب را با دوستانتان به اشتراک بگذارید :

جلال ایجادی

دانش و شناخت ما
هوش مصنوعی یک رویداد اساسی ساختاری جهان ماست. توسعه هوش مصنوعی به تحولات شگرفی در جامعه منجر خواهد شد و این تحول بنیادی فلسفه و جامعه شناسی را در برابر چالشی بزرگ و تازه قرارخواهد داد. دانش ستاره شناسی بما میگوید جهان نزدیک به ۱۴ میلیارد سال پیش بوجود آمده است. سیستم خورشید نیز ۴,۶ میلیارد سال پیش آغاز شده و دانشمندان برآنند که این نظام خورشیدی در ۵ میلیارد سال دیگر به سردی خواهد گرائید. جهان دربرگیرنده میلیاردها کهکشان بوده و هر کهکشان دربرگیرنده میلیاردها سیستم خوشیدی است و هر سیستم خورشیدی دربرگیرنده سیاره ها و ماه های متعدد می باشد. سیاره ها از «ابرخورشید» جدا شده اند و ماه ها نتیجه تصادم سیاره ها می باشند. گفته می شود در سیستم خورشیدی ما در ابتدا نزدیک ۱۰۰ ماه وجود داشته که با تصادم و برخوردهای در درون سیستم خورشیدی، تعداد آنها کاهش یافته و ترکیب شده اند. بر اساس نظریه اخترشناسان، جهان در حال انکشاف دائم است و آن به این معنا که فاصله میان کهکشانها هرچه بیشتر افزایش پیدا میکند و پایانی بر آن نیست. ولی خورشید ما پس از یک دوران بسیار طولانی بزرگ خواهد شد و به مدار فعلی زمین خواهد رسید و در نهایت زمین توسط خورشید بلعیده خواهد شد.
این نظریه های علمی آینده ما را ترسیم می کنند ولی ندانسته ها و تاریکی ها بسیارند. «اوبر ریو» دانشمند سوئیسی، میگوید امکانات ما برای شناخت، بسیار ناتوان است و ما فرای حس پنجگانه خود امکان شناخت دیگری نداریم. در توضیح بیشتر نظریه دانشمند سوئیسی می توان گفت بعنوان نمونه در حال حاضر در جهان، ما به عنوان ساکنان زمین تنها هستیم ولی این تنهایی نتیجه فقدان شناخت ماست. اگر ما بتوانیم به شناخت سیستم های خورشیدی و کهکشانها پی ببریم چه بسا این نظریه تغییر کند و زندگی در سیاره دیگر حس شود. هر دانشمندی باید فرضیه ها و تصورهای خود را از جهان ارتقا دهد. در جهان نمی توان گفت من به حقیقت رسیده ام زیرا ما در قلمرو بسیار کلان و گسترده ای هستیم که فقط مطابق موضع خود ابراز نظر می کنیم. رابطه ما با حقیقت چیست؟ همان رابطه ای که میان یک نقشه و جغرافیا وجود دارد. نقشه از جغرافیا حرف میزند ولی آیا نقشه ما بازتاب دقیق جغرافیا است؟ بنابراین دانش ما همان نقشه است که بازتابی از حقیقت هست ولی همه حقیقت نیست. مذاهب ابراهیمی گفتند که خداوند جهان را در شش روز بوجود آورد و همه پیروان آنها به همین باور چنگ زدند و خود را تسلیم خدا نمودند. ولی این تسلیم بمعنای پایان دادن به پژوهش و جستجو است. اشتباه انسان در تسلیم اوست. دانش در مورد ستارگان و تمامی عرصه های زندگی بشری همیشه به انسان کمک کرده تا افق آگاهی گسترش یابد ولی علیرغم این روند پویا، انسان پیوسته در قلمرو شناخت و آگاهی بسیار محدود سیر می کند. چگونه بر محدودیت آگاهی می توان غلبه کرد؟ هوش مصنوعی در این راستا جایگاه خود را پیدا می کند.
خرد انسانی نمی تواند آرام بنشیند، به محدودیت خود آگاه است ولی پیوسته تلاش دارد تا قدرت درک و فهم را گسترش دهد. دانش بشری راه بزرگی را پیموده تا اسیر اسطوره های دینی و باورهای عامیانه باقی نماند. توسعه عقل منجر به دانش و تکنیک و اقتصاد و جامعه مدرن شد و فرهنگ بشری به جایگاه رفیع کنونی رسید. در این مسیر، فلسفه و علوم انسانی از دنیای باستان تا سده اخیر پرسشها و پارادایم های نوین و تازه ای مطرح ساخت و پیروزی انسان مدرن را میسر نمود. طی سده بیستم و بیست و یکم پیشرفت علم فیزیک و بیولوژیک و ژنتیکی و کامپیوتری و تکنولوژی ربات ها، ما را در دوران جدیدی از تحولات علمی و جامعه شناسانه و فلسفی قرار داده است و پرسش های تازه در مورد سرنوشت انسان و آینده او طرح نموده است. پیدایش هوش مصنوعی در نیم قرن اخیر پارادایم های شگفت انگیزی را ببار آورده است. از این پس نمی توان مانند گذشته فکر کرد، هوش مصنوعی قدرت اندیشه مغز را به افقهای کاملن جدیدی سوق داده است و بسیار دور خواهد رفت.

هوش مصنوعی چیست؟
هوش مصنوعی دانش برنامه ریزی سیستم‌های رایانه‌ای و الکترونیکی و دانش الگوریتم است که می کوشد تا رفتار «انسان گونه» را بازسازی نموده و حتا فراتر از قدرت مغز انسان به پیش رود. هدف هوش مصنوعی در اینستکه می توان کامپیوترها و ربات ها را وادار به فعالیتی نمود که در حال حاضر انسان‌ها آنها را انجام می‌دهند. آیا گسترش هوش مصنوعی منجر به غلبه ربات بر انسان خواهد شد؟ آیا انسان میتواند ماشینی هوشمندتر از انسان بیافریند و سپس آیا ماشین با هوش برتر، خود می تواند ماشین بیافریند؟ در سالهای ۷۰ میلادی ربات ها و نظم های اتوماتیک و برنامه دار وارد تولید و بنگاههای اقتصادی شد. بیش از پیش خانواده ربات ها تکمیل و کارآمدتر گشت. رباتها از تولید صنعتی گذر کرده و تمام زمینه های اجتماعی و علمی و فرهنگی و اداری و پزشکی و آموزشی را اشغال کردند. هوش مصنوعی ادامه این تکنولوژی رباتها و سیستم های برنامه دار و محاسبه کننده است. تاکنون هوش مصنوعی بسیار پیش رفته است و ربات ها را به یک مرحله جدید و بیسابقه از تحول هوشمندانه رسانده است. این گونه ماشین هوشمند باید موقعیت‌های از پیش تعریف نشده را با انعطاف و چابکی و بر اساس بانک داده های علمی دریابد و تشخیص بدهد، باید پیام‌های نادرست یا مبهم را جدا نماید، باید تمایزها و شباهت‌ها را بفهمد، باید تجزیه و تحلیل داده ها و اطلاعات را در دستور کار قرار دهد، و بالاخره باید نتیجه‌گیری کند و توانا باشد تا ارتباط دو جانبه در محیط خود برقرار شود.
امروز ربات هایی بوجود آمده که قادرند در یک بازی پوکر یا شطرنج انسان قهرمان را شکست دهند. اما هنوز ربات به نقش انسان دسترسی پیدانکرده است. مقایسهٔ هوش مصنوعی با هوش انسانی بما نشان میدهد که انسان با مشاهده و تجزیه و تحلیل شرایط می تواند قضاوت کرده و تصمیم بگیرد در حالی که هوش مصنوعی بر اساس قوانین علمی و رویه‌هایی از پیش تنظیم و تعبیه شده، بر روی کامپیوترسوار شده، عمل میکند. بمعنای دیگر برنامه ریزی ربات، هر چند پیچیده، توسط انسان صورت می گیرد. در واقع شیوه‌ها و تکنیک‌های هوش مصنوعی، برای پاسخ به آن دسته از معضلات و مسائل، اختراع شده که به طور آسان توسط برنامه نویسی یا شیوه‌های ریاضی قابل حل نبوده‌اند.
هوش مصنوعی قدرت انسان و سرعت عمل او را بطرز بیسابقه افزایش می دهد. هوش مصنوعی، در واقع دانش و مهندسی ایجاد ماشین‌هایی هوشمند با به‌کارگیری از کامپیوتر و الگوگیری از فهم و هوش انسانی یا حیوانی و در نهایت، دسترسی پیدا کردن به مکانیزم هوش مصنوعی در سطح و همطراز هوش انسانی می باشد. هدف هوش مصنوعی باتر رفتن از هوش انسانی است. حال پرسشی مهم در برابر ماست: آیا میتوان ماشینی با قدرت فکری گسترده بوجود آورد؟ بله این کشف عملی شده است. آیا رباتی با هوش برتر از هوش انسان میسر است؟ دانشمندان متعددی این هدف را دشوار نمی دانند. آیا دانشمندان و متخصصان می توانند به تولید ماشینهایی اقدام کنند که نه تنها برنامه عمل برای شرایط پیچیده دارند، بلکه دارای احساسات بوده و نسبت به وجود خود و روحیات و احساسات خود آگاه باشند؟ در حال حاضر ما به این تحول نرسیده ایم ولی آیا در آینده هم این امر ناممکن است؟ برخی از متفکران و دانشمندان این کار را در آینده ای نه چندان دور ممکن می دانند.

مخالفان و موافقان هوش مصنوعی
کتابهای مانند «ربات ها و انسانها»از «لورانس دوویلر» و یا «اسطوره سنگولاریته» از «ژان گابریل گاناسیا» فیزیکدان فرانسوی به همین پرسش ها پرداخته و با نگاهی انتقادی به بررسی هوش مصنوعی می پردازند و انسان را در نهایت تصمیم گیرنده می دانند. لورانس دوویلر پژوهشگر در زمینه تکنولوژی ربات برآنست که آنچه مسلم است با توجه به رشد جمعیت سالخورده و نیازهای پزشکی، رباتها نقش مهمی در جامعه بازی خواهند کرد ولی نباید به ذهنیگری و فانتسم درغلطید. او می گوید میتوان به ربات فهماند که یک سیب چگونه است و اسم آن چیست ولی ربات طعم سیب را درک نخواهد کرد. با این وجود از نظر لورانس دوویلر باید به ربات آموزش داد، باید قواعد را تنظیم نمود، باید ابزار کنترل بوجود آورد و باید مبنای قضایی و حقوقی در زمینه ربات ها را تعریف نمود. از نظر او رباتها می توانند دنیای بد و نابسامانی بوجود آورند پس ما باید نتایج احتمالی ربات ها را در جامعه مورد بررسی قرار دهیم. ژان گابریل گاناسیا می پرسد آیا ماشین های ما از ما هوشمندتر خواهند شد؟ آیا در آینده، با پیروزی یک جامعه تکنولوژیک و زیر فرمان رباتها، بشریت از نقش اصلی خارج نخواهد شد؟ او نگران جامعه با تحولاتی است که عقل را یکسره به ربات سپرده و انسان را فراموش می کند. او می گوید مدرنیته فقط با تکنیک تعریف نمی شود و ما باید نسبت به تکنولوژی شک خود را حفظ کنیم و دچار اعتماد کور نشویم. از نظر او آینده ای که شرکتهایی مانند «گوگل» برای ما آماده می کنند قابل اعتماد نیست.
لوک فری فیلسوف فرانسوی نیز در کتاب خود «انقلاب ترانس اومانیست» از «پروژه نگران کننده سیبرنتیک» صحبت می کند که در پی مخلوط کردن انسان با ماشین است. فیزیکدان انگلیسی استفان هاوگینگ در روزنامه «ایندپاندان» یکم ماه مه ۲۰۱۴ می گوید رشد تکنولوژی هوش مصنوعی با سرعتی که بخود گرفته دیگر قابل کنترل نیست و قادر است جامعه را بطور جدی به خطربیافکند. او می گوید هنوز امکان متوقف کردن آن را داریم و فردا دیر خواهد بود. در این ارزیابی عمومی این دانشمندان موافق هستند که هوش مصنوعی به هرحال توسعه خواهد یافت ولی ژان گابریل گاناسیا معتقد است که در باره آهنگ رشد هوش مصنوعی و اثرات شگفت آن بر جامعه تا اندازه ای اغراق شده است و حالتی از یک داستان تخیلی است. از نظر او طرفداران هوش مصنوعی بطرز غلوآمیز سخن می گویند و آنها این رویداد را چه بسا از برخورد زمین و یک سیاره دیگر و یا تغییرات اقلیمی و افزایش گرمایش زمین، اساسی تر و قطعی میدانند. حال آنکه چنین دورنمایی غلوآمیز و ناممکن است.(رجوع شود به «اسطوره سنگولاریته» انتشارات سویی پاریس ۲۰۱۷).
البته همه اندیشمندان دارای یک دیدگاه یگانه و همسان نیستند و دقیقن مانند همدیگر نمی اندیشند. دیدگاه های استفان هاوگینگ و ژان گابریل گاناسیا و لورانس دوویلر، رشد هوش مصنوعی را انکار نمی کنند و آهنگ رشد را متفاوت می دانند ولی حلقه کلیدی در نگاه آنها نگرانی در مورد آینده بشری است و اینکه باید به اقدام پیش گیرانه برای کنترل دست زد. این گروه از دانشمندان نگران خرد ابزاری و تکنولوژیکی هستند و برخوردی انتقادی به آهنگ رشد هوش مصنوعی و اهداف آن دارند. حال آنکه گروه دیگری از متفکرانی برخوردی خوشبینانه تر داشته و برآنند که باید به استقبال هوش مصنوعی رفت. بعنوان نمونه در بررسی هوش مصنوعی متفکرانی مانند «نیک بوسترم» به استقبال آن شتافته ولی خواهان ایجاد جامعه ماشینی با اخلاق و اتیک مصنوعی هستند. از نگاه او انسان با دانش خود به ماشین قدرت شگفت انگیزی می دهد و امروز ربات هایی وجود دارند که به اساس برنامه ریزی در کره مریخ عمل میکنند. امروز ربات هایی وجود دارند که واژگون می شوند ولی این استعداد را دارند که از زمین برخیزند و به سوی هدف خود پیش نرود. اگر امروز ربات در مسابقه شطرنج و قمار پوکر بر انسان پیروز می شود چرا فردا به مراحل بالاتر و پیچیده تر نرسند؟ منقدان این دیگاه می گویند حال در آینده چرا این ربات ها به جنگ علیه انسان دست نزنند؟ چرا ربات زندگی انسان را مختل نکند؟ «نیک بوسترم» می گوید برای اجتناب از این وضع میتوان به رباتها اتیک اخلاقی انتقال داد و می توان رفتار آنها را اخلاقی و معطوف به ارزش انسانی نمود.

آشتی نگاه فلسفی با هوش مصنوعی
فیلسوف سوئدی تبار دانشگاه آکسفورد «نیک بوسترم» با کتاب معروفش «هوش برتر» در جستجوی چگونگی کنترل و مدیریت ربات ها با هوش مصنوعی است. از نظر این فیلسوف در آینده با توسعه هوش مصنوعی حوادث ناگواری می تواند روی بدهد ولی میتوان پیشگیری نمود. از نظر او ربات برتر از مغز انسان میسر است ولی اگر ربات جدید با هوشمندی مصنوعی بتواند بر مغز بشر پیروز شود، حوادث شومی می تواند در انتظار انسان باشد. از نظر او این وضع تراژیک ناگزیر نیست و باید خطرات را پیش بینی کرد. «نیک بوسترم» خواهان مقابله با هوش مصنوعی نیست ولی می پرسد فردا ماشین های متکی به هوش مصنوعی را چگونه کنترل کنیم تا به انسان زیان نرسانند؟ نیک بوسترم می پرسد آیا میتوان ربات ها را درس اخلاق داد تا علیه انسان نشورند؟ این فیلسوف تمام مقوله های اقتصادی، روانشناسانه و فیلسوفانه را مورد برخورد قرار میدهد تا راه مدیریت بر ربات ها تدوین شود. نیک بوسترم می نویسد: «همانگونه که سرنوشت گوریل ها امروز بیشتر به انسان ها بستگی دارد سرنوشتی که در انتظار نوع بشر است بطرز فعالانه به ماشین بستگی خواهد داشت. درست است که ما، بعنوان انسان، یک امتیاز داریم و ان اینکه ما سازنده هستیم. براساس همین توانایی، ما میتوانیم قادر باشیم تا هوش برتری بیافرینیم که به دفاع از ارزش های انسانی بپردازد.»(«هوش برتر»، انتشار «دونو» پاریس).
از نظر او تا چند دهه دیگر با ویژگی تکنولوژیکی هوش مصنوعی، ما با «انفجار هوش» مواجه خواهیم بود و این «انفجار» تکنولوژیکی با ماشینی که دارای «هوش برتر» است تحقق می یابد. این انفجار هوش، پایه رویدادهای اساسی برای اقتصاد و جامعه خواهد شد. حال ممکن است اشتباه کنیم و در مورد این رویداد دستخوش خوشبینی باشیم و از نظر زمانی این امر را در کوتاه مدت میسر بدانیم. ولی آنچه که مسلم است این رویداد بزرگ بطور مسلم و قطعی بوقوع می پیوندد. حال از آنجایی که این سناریو در آینده نزدیکی اتفاق می افتد، احتمال دارد که نتایج ناگواری در انتظار زندگی بشری باشد. پس ما باید در کار علمی پژوهشی در باره هوش مصنوعی، برنامه انتقال اخلاق و اتیک را نیز در نظربگیریم. از نظر«نیک بوسترم» در عرصه علمی بهبود بخشیدن به عملکرد یک مغز امروز کاملن ممکن است و همچنین قدرت بخشیدن به ظرفیت دانش اندوزی مغز برای دانش امروزی امری شدنی است. تقویت بیولوژیکی و نرولوژیکی نزد انسان امکانپذیر است و حتا علم ژنتیکی در قرن بیستم مداخله روی ژنوم انسان و جلوگیری از سالخوردگی و پیری را ممکن ساخته است. استعداد علمی در جامعه پیشرفت شگرفی نموده است و این امر نشان می دهد که ما می توانیم جلوبرویم و در مورد هوش مصنوعی نیز گامهای بلندی برداریم.
به این لحاظ کار علمی در باره رابطه مغز با کامپیوتر در حال تحول سرنوشت ساز است و هوش مصنوعی دگرگونی های شگرفی را در پی خواهد داشت. هوش مصنوعی استراتژی جدیدی خواهد بود تا بتوان در عرصه تکنولوژی و اقتصادی و اجتماعی به موقعیتی بیسابقه دست یافت. این امر مقیاس زمان را به زمان گسترده و دراز مدت گسترش خواهد داد و جغرافیای عملکرد را بناگزیر جهانی خواهد کرد. هوش مصنوعی معنایی جز معنای برتری روشنفکری و شناخت برتر نخواهد داشت. روشن است که در این فضای تکنولوژیک و رباتهای هوشمند پرقدرت، امکان خطر وجود دارد ولی فکر مهندسی می تواند سیستم های کنترل کننده را پیش بینی نموده و احتمال خطر را به حداقل کشاند. یک نظام رباتی که دارای هوش برتر است می تواند نظام کنترلی اتوماتیک خود را داشته باشد زیرا دارای قدرت تصمیم گیری برتر نیز می باشد. هوش مصنوعی دربرگیرنده مقوله ها و تکنولوژی های گوناگونی است که در پی انتقال هوش انسانی به ماشین میباشد. این نظریه خود را متکی بر علم شناخت، نرولوژی، منطق ریاضی، علم کامپیوتری و الگوریتم می کند. نظریه علمی هوش مصنوعی پس از سالهای ۵۰ میلادی در آمریکا بوجود آمد و سپس با توسعه علم کامپیوتری و تکنولوژی رباتها بیش از پیش تحکیم شد. در سالهای اخیر هوش مصنوعی با شکست دادن انسان در برابر ماشین، با شکست انسان در بازی شطرنج در سال ۱۹۹۷ و با شکست انسان در بازی قمارپوکر در سال ۲۰۱۷، تردیدهای بسیاری را شکست و پرسش های اساسی جدید تولید کرد و هوش مصنوعی بعنوان یک نظریه علمی اجتماعی و فلسفی معروف شد. مسئله مرکزی در این نظریه اینستکه آیا ربات از انسان پیشی خواهد گرفت یا نه؟

چالش بزرگ فلسفی و جامعه شناسانه
در واکنش به هوش مصنوعی دانشمندان و فیلسوفان و جامعه شناسان به دو دسته بزرگ مخالف و موافق تقسیم می شوند. گروهی می گوید ربات ها و ماشین ها هرگز مانند انسانها دارای احساس و واکنش نیستند و اینگونه تکنولوژی خطرناک است و گروه دیگر برآنست که کامپیوترها سمبولها را دستکاری نموده و این تحول بزرگ علمی منجر به پارادایم جدید خواهد شد. این گروه معتقد است با هوش مصنوعی ویژگی این دوران، انفجار و زنجیره بزرگ تغییرات می باشد، عصر ما تکان خواهد خورد و بقول «ری کورزول» هوش از مکانیسم بیولوژیکی خارج شده و بشکل غیر بیولوژیکی ابعاد جدیدی بخود می گیرد.
پژوهش علمی و اختراع در این زمینه پیوسته با توسعه خود پرسش های فلسفی و چالش های جامعه شناسانه و اضطرابها و خوشبینی های متعددی تولید نموده است. هم اکنون ما نمی توانیم ادعا کنیم که هوش مصنوعی، مسئله ما، ایرانیان نیست. اینگونه تفکرات مخصوص غرب نیست، بلکه مسائل و پرسشهای جهانی است و ماهم باید به آنها توجه کنیم. دیدگاه فلسفی و جامعه شناسی ما باید این معضل را مورد اندیشه قرار دهد. گسترش دانش به انسان کمکهای بیشماری کرده و بازهم خواهد کرد، ولی ماشین خارج از کنترل می تواند خسارت بزرگی بوجود آورد. این فرضیه می طلبد تا در عرصه جامعه شناسی و فلسفی و اخلاقی به کار فکری خود ادامه دهیم. تکنیک بدون روح و معنا، ما را به پرتگاه می کشاند و مقاومت علیه تکنیک و دانش، ما را در تاریکی و ظلمات زندانی خواهد کرد.
جامعه ای که نتیجه هوش مصنوعی خواهد بود جامعه ای با دانش بیسابقه و عظیم خواهد بود، جامعه ای که حضور رباتها در تمام اجزای اش عمومیت خواهد داشت. تولید و اقتصاد و بهداشت و نظام پزشکی و شهرسازی و معماری و آموزش و اطلاعاتی بکلی دیگرن خواهد شد. نظام هوش مصنوعی گروهبندی های اجتماعی را دگرگون خواهد نمود و فعالیت انسانی را به یک انتخاب و نه یک اجبار، تغییر شکل می دهد. در این چنین جامعه ای ارزشها و رفتار و احساس انسانی بطور مسلم چرخش خواهد کرد و ماهیت نوین می یابد. حال آیا این جامعه متکی بر همکاری ربات و انسان خواهد بود یا جامعه ای با هوش ابزاری که با قدرت برای نابودی انسان عاشق و مهربانی انسانی و ادبیات و فلسفه عمل خواهد کرد؟ در این چنین جامعه ای خوشبختی به طرز دیگری قابل تعریف خواهد بود، ولی حس خوشبختی و آرامش و عشق چگونه در هویت انسانها نمایان خواهد شد؟ هوش مصنوعی دوران سازخواهد بود و ما باید خود را برای آن آماده کنیم و دانش و پژوهش را به این سو سوق دهیم ولی همیشه دقت داشته باشیم که دانش ما به جنایت علیه روان و بندگی اراده گرایانه انسان نیانجامد.
جلال ایجادی
جامعه شناس دانشگاه پاریس
منابع:
Jean-Gabriel Ganascia, « Le mythe de la singularité », Seuil, Paris ۲۰۱۷
Dominique Boullier, « Sociologie du numérique », Colin, Paris ۲۰۱۶
Nick Bostrom, « Super intelligence », Dunod, Paris ۲۰۱۷
Laurence Devillers, « Les robots et les Hommes », Plon, Paris, ۲۰۱۷

هوش مصنوعی، چالشی تازه در فلسفه و جامعه شناسی

مطالب مرتبط با این موضوع :

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

این سایت از اکیسمت برای کاهش هرزنامه استفاده می کند. بیاموزید که چگونه اطلاعات دیدگاه های شما پردازش می‌شوند.

Layer-17-copy

تمامی حقوق این وبسایت در اختیار مجموعه رنگین کمان بوده و استفاده از محتوای آن تنها با درج منبع امکان پذیر می باشد.