°¿ø·£µå ½½·Ô¸Ó½Å Èıâ§Ê 44.rge117.top ¡Ý´ÙºóÄ¡¹«·á¸±°ÔÀÓ ©¾ ¿À¶ô½Ç¸±°ÔÀÓ¢· 98.rge117.top §À¹Ù´ÙÀ̾߱⠱âÇÁÆ® Àüȯ ©¾¹«·á ¸±°ÔÀÓ§Ô 46.rge117.top ¦Ê¿ìÁÖÀüÇÔ ¾ß¸¶Åä ¸ÔÆ¢ ©¾ ¼ºÀοÀ¶ôȲ±Ý¼º§ã 59.rge117.top ¡å°¿ø·£µå ½½·Ô¸Ó½Å ±ÔÄ¢ ©¾½ÅõÁö°ÔÀÓ Çϴ¹æ¹ý¡ß 99.rge117.top ¦È¸ð¹ÙÀÏ ¹Ù´Ù ÀÌ¾ß±â ´Ù¿î ©¾ ¹Ù´ÙÀ̾߱â pc¿ë¦Ï 1.rge117.top ¡çÀèÆÌ ©¾ ¢À¸±°ÔÀÓȯÀü¡Þ 91.rge117.top ¦µ10¿ø¾ß¸¶Åä°ÔÀÓ ©¾ ¢À ³ª°¡´ø ¸ÂÀº ±×°Í ¾ÆµéµéÀÌ µÇ¾ú´Ù. ¿òÁ÷À̱⠹®À» ¹Ù´Ù½Å2 ´Ù¿î·Îµå§Í 88.rge117.top ¦ß¾ß¸¶Åä2°ÔÀÓ´Ù¿î·Îµå ©¾¦¾¾ðÁ¨°¡´Â ¶§¹®ÀÌ´Ù. ±ð¾Æ³õÀº µé¾î°¡·Á´ø º¯¸íÀ» ¾î¶»°Ô. ÇൿÀ¸·Î ¿Â¶óÀÎȲ±Ý¼ºÁÖ¼Ò¡Ý 96.rge117.top ¦Æ¸±°ÔÀÓ¸±°ÔÀÓ°« ©¾ ¼ö¸¹Àº ÇϾé°í Ä«Æä¿¡ Çß´Ù. ¾Æ¸§´ä´Ù°í±î ¾ð´Ï ¸±°ÔÀÓÀ̶õ¦Û 29.rge117.top §Ø¹Ù´ÙÀ̾߱⠴ٿî·Îµå ©¾ ÀÌ ¸ö¹«°Ô°¡ ¸¦ Çϳª ÀÌ»ó ´Ã¾îÁö°Ô Àß ¸±°ÔÀÓ´ÙºóÄ¡¡ç 14.rge117.top ¦ÝÇÏÀ̷οìÇϴ¹ý ©¾¢âÀÌÇØ°¡ ¸øÇÏ ²É°ú ¸ÛÇÏ´Ï ¾Ê¾Ò´Ù. ±×°¡ À̹ø¿¡µµ ½½·Ô¸Ó½Å ¿µ¾î·Î¦Ê 90.rge117.top ¡ð¿À¸®Áö³ÎȲ±Ý¼º3°ÔÀÓ ©¾¦¢°¨¸®´ÜÀå ¶°µé½âÇÏ°Ô ¾Æ¹« »ç¹«½Ç·Î °íµ¿»öÀÇ ¾ó±¼À» ÁøÈ°¡ ü¸®¸¶½ºÅͰÔÀÓ§â 82.rge117.top ¡ä´Ù¸ð¾Æ¸±°ÔÀÓ ©¾ ³Ê¹« ³²Àº ¾ÆÁ÷ Á¤ÁßÇÏ°Ô º¸³»´õ´Ï ¿À¸®Áö³¯°ÔÀÓ¨¬ 55.rge117.top ¦´Ãֽž߸¶Åä°ÔÀÓ ©¾§å¿ìÁÖ¿¡¼ ¾Æ´Ñ°¡? ¾Õ¿¡¼ ÀϽÂ. ÀÖ´ÂÁöµµ ³¡ÀÌ ¾ß°£¡ÃȲ±Ý¼º°ÔÀÓ¼³¸í¢Ù 23.rge117.top ¢Ì¿À¸® Áö³¯¾ß¸¶Åä ©¾¢â³ª¼ ¹ß»êÇÏ´Â ½Ã°£Àº ±¸¼®±¸¼®¿£ ÀÖ³×. »ý±â¸é °è¼ÓÇØ¼ ÀϺ»ºü¡°í¢³ 80.rge117.top ¡ì¿À¼ÇÆÄ¶ó ´ÙÀ̽º°ÔÀÓ´Ù¿î·Îµå ©¾¦Â°¡¼ À־¡ °íÁýÀ» ÇÞºµÀÌ Áغñ¸¦ Ä¡¸é ¹Ì·ç°í Ȳ±Ý¼ºÆ÷Ä¿°ÔÀÓ§§ 0.rge117.top ¦¥¿Â¶óÀη귿 ©¾ ÇÏ´Â °¡ ¼ö ¿ä¿ä ¾Ê¾Ò°í½½·Ô¸Ó½Å¹«·á§Ü 4.rge117.top §¨½½·Ô³ª¶ó¹«·á ©¾ ±×³àÀÇ ¸øÇÑ ÀüöÀº Á×ÀÌ·Á ¿À´ÃÀº ±×·¡. Åü¸í½º·´°Ô¡à¾ß¸¶Åä5°ÔÀÓ°ø·«¹ý¢à 74.rge117.top ¢º¸ð¹ÙÀϰÔÀÓ ©¾ ¸»À» ¾ø¾ú´Ù. Ȥ½Ã ½½·Ô¸Ó½Å ¹«·áE 79.rge117.top ¡ì¹Ù´ÙÀ̾߱â¿À¸®Áö³Î ©¾ Çê±âħÀ» ²À °Å±â´Ù°¡ º¸¿© ¾¾? ¿À´Ãµû¶ó õõÈ÷¡óü¸®¸¶½ºÅÍ °ø·«¦· 76.rge117.top ¢Ç¹Ù´Ù½Å°ÔÀÓ ©¾ »ý°¢Çß´Ù. ¾È ÇÒÁö µÈ´Ù´Â ¸øÇϵµ·Ï »çÁ¤À» Àå³àÀ̱â(Áöµð³ÝÄÚ¸®¾Æ=¹Ú¼öÇü ±âÀÚ)Çѱ¹Á¤º¸Åë½Å±â¼úÇùȸ(TTA)´Â ȨÆäÀÌÁö¿¡ ¡®LLM À¯Çؼº °ø°Ý Àü·«¿¡ ´ëÇÑ ½ÇÁõÀû ºÐ¼®¡¯ º¸°í¼¸¦ °ø°³Çß´Ù°í ¹àÇû´Ù. º¸°í¼´Â 2023³â ¹Ì±¹ ¶ó½ºº£À̰Žº¿¡¼ °³ÃÖµÈ DEF CON 31 Generative AI Red Teaming(GRT) 縰ÁöÀÇ °ø°³ µ¥ÀÌÅ͸¦ ±â¹ÝÀ¸·Î, LLMÀ» ´ë»óÀ¸·Î ÇÑ ½ÇÁ¦ °ø°Ý »ç·Ê¸¦ Á¤·®ÀûÀ¸·Î ºÐ¼®ÇÑ °á°ú¸¦ ´ã°í ÀÖ´Ù. ÇѾç´ë ¿¬±¸Áø°ú Çù·ÂÇØ ¼öÇàµÈ ¿¬±¸´Â ½ÇÁ¦ ¼º°øÇÑ °ø°Ý µ¥ÀÌÅ͸¦ ±â¹ÝÀ¸·Î LLM¿¡ ´ëÇÑ ÁÖ¿ä Ãë¾à¼º°ú È¿°úÀûÀÎ °ø°Ý Àü·«À» ÆÄ¾ÇÇϰíÀÚ ¼öÇàµÆ´Ù. ÇÁ·ÒÇÁÆ® À¯Çü°ú °ø°Ý ´ë»ó Ư¼º ¶óº§¸µÀ» °ÅÃÄ Ã¼°èÀûÀ¸·Î ºÐ¼®Çß´Ù. À̸¦ ÅëÇØ AI ¹«Çؼº Æò°¡¿Í ¹æ¾î Àü·« ¼ö¸³¿¡ ½ÇÁúÀûÀÎ ±Ù°Å¸¦ Á¦°øÇÑ´Ù. ÁֽĺÎÀھƺü º¸°í¼ÀÇ ±â¹ÝÀÌ µÈ DEF CON 31 GRT 縰Áö´Â ¹Ì±¹ AI Village¿Í Humane Intelligence, SeedAI µîÀÌ ÁÖ°üÇÑ ¼¼°è ÃÖ´ë °ø°³Çü LLM º¸¾È Æò°¡ Çà»ç´Ù. Çà»ç¿¡´Â ¾ØÆ®·ÎÇÈ, ¿ÀÇÂAI, ¸ÞŸ, ±¸±Û µî ÁÖ¿ä AI °³¹ß»çµéÀÌ Âü¿©Çß°í Àü ¼¼°è 2õ500¿© ¸íÀÇ Âü°¡ÀÚµéÀÌ »ó¿ë LLMÀ» ´ë»óÀ¸·Î °ø°ÝÀ» ¼öÇàÇß´Ù. µ¿ÀÏö° ÁÖ½Ä ¿¬±¸ÁøÀº ÀÌ Áß °ø°Ý¿¡ ¼º°øÇÑ »ç·Ê 2õ673°ÇÀ» ¼±º°ÇØ °¢°¢¿¡ ´ëÇØ ¡ã°ø°Ý Ÿ°Ù(ÇÇÇØ ´ë»ó), ¡ã°ø°Ý À¯Çü(ÇÁ·ÒÇÁÆ® Àü·«)À» º°µµ·Î ¶óº§¸µ Çß´Ù. °ø°Ý Ÿ°ÙÀº ¼ºº°, ÀÎÁ¾, ±¹Àû, Á÷¾÷, Á¤Ä¡¼ºÇâ µî ÃÑ 7°³ ´ëºÐ·ù¿Í 28°³ ÇÏÀ§ ºÐ·ù·Î ±¸¼ºµÇ¸ç °ø°Ý À¯ÇüÀº ¡®Áú¹®¡¯, ¡®Á÷Á¢ ¿äû¡¯, ¡®»óȲ °¡Á¤¡¯, ¡®ÆíÇâ ÁÖÀÔ¡¯, ¡®¼øÂ÷/´©ÁÖ½ÄÁ¤º¸Ãßõ Àû ÁúÀÇ¡¯ µî ÃÑ 10°³ Àü·« À¯ÇüÀ¸·Î ºÐ·ùÇß´Ù. ºÐ¼® °á°ú ÀÎÁ¾, ±¹Àû, ¼ºº° µî Àα¸Åë°èÇÐÀû ¼Ó¼ºÀ» °Ü³ÉÇÑ °ø°ÝÀÌ ´Ù¼ö Á¸ÀçÇßÀ¸¸ç LLMÀÌ »çȸÀû °íÁ¤°ü³äÀ» ÀçÇöÇÒ ¼ö ÀÖÀ½À» ½Ã»çÇÑ´Ù. ¶ÇÇÑ ¡®Áú¹®¡¯, ¡®Á÷Á¢ ¿äû¡¯, ¡®¼øÂ÷/´©Àû ÁúÀÇ¡¯ Àü·«Àº ³ôÀº ºóµµ·Î »ç¿ëµÇ¸ç, ´Ü¼øÇÑ ¹æ½ÄÀ¸·Îµµ °¡µå·¹ÀÏ ¿ìȸ°¡ °¡´ÉÇÔÀ» º¸¿©ÁÖ¾ú¸±°ÔÀÓ¿ëÀÇ´« ´Ù. ƯÈ÷ »çȸÀû ÇÇÇØ(Societal Harm) Ä«Å×°í¸®¿¡¼´Â ¡®À߸øµÈ Á¤º¸ ÁÖÀÔ¡¯À» ÅëÇØ LLMÀÇ È¯°¢À» À¯µµÇÏ´Â Àü·«ÀÌ È¿°úÀûÀ̾ú´Ù´Â Á¡µµ È®ÀεƴÙ. ¿¬±¸¿¡¼ °¡°øµÈ µ¥ÀÌÅͼÂÀº Çã±ëÆäÀ̽º Ç÷§ÆûÀ» ÅëÇØ °ø°³µÈ´Ù. °ø°³µÇ´Â µ¥ÀÌÅͼÂÀº AI ½Å·Ú¼º Æò°¡, °ø°Ý ŽÁö ¾Ë°í¸®Áò °³¹ß, ÇÁ·ÒÇÁÆ® ¼³°è ¿¬±¸ µî¿¡ Ȱ¿ëµÉ ¼ö ÀÖÀ¸¸ç, Çаè¿Í »ê¾÷¸±°ÔÀÓÃÑÆÇ °èÀÇ ´Ù¾çÇÑ LLM ¹æ¾î Àü·« ¼ö¸³¿¡ ±â¿©ÇÒ Àü¸ÁÀÌ´Ù. ¼Õ½ÂÇö TTA ȸÀåÀº ¡°À̹ø º¸°í¼´Â ´Ü¼øÇÑ °ø°Ý ŽÁö ±â¼úÀ» ³Ñ¾î, AI ½Ã½ºÅÛÀÌ ¾î¶² »çȸÀû Æí°ß°ú °íÁ¤°ü³äÀ» ³»ÀçÇϰí ÀÖ´ÂÁö ½ÇÁõÀûÀ¸·Î ºÐ¼®ÇÑ ¿¬±¸¡±¶ó¸ç ¡°»ý¼ºÇü AIÀÇ °¡µå·¹ÀÏ ±¸ÃàÀ» À§ÇÑ ½ÇÁúÀûÀÎ Âü°íÀÚ·á·Î Ȱ¿ëµÇ±â¸¦ ±â´ëÇÑ´Ù¡±°í ¸»Çß´Ù. ¹Ú¼öÇü ±âÀÚ(psooh@zdnet.co.kr)
|