»çȸ´º½º ÀÔ´Ï´Ù.
  • ºÏ¸¶Å© ¾ÆÀÌÄÜ

¼­¿ï½Ã¸³´ë ÇÏÁØ¿ì Çкλý ³í¹®, ACL 2025 ¸ÞÀÎ Æ®·¢ äÅÃ

¼­¿ï½Ã¸³´ëÇб³´Â ¼öÇаú 3Çг⿡ ÀçÇÐ ÁßÀÎ ÇÏÁØ¿ì ÇкλýÀÌ °øµ¿ Á¦1ÀúÀÚ·Î Âü¿©ÇÑ ³í¹® 'One-Shot is Enough: Consolidating Multi-Turn Attacks into Efficient Single-Turn Prompts for LLMs'°¡ ÀÚ¿¬¾îó¸®(NLP) ºÐ¾ß ¼¼°è ÃÖ°í ±ÇÀ§ Çмú´ëȸÀÎ ACL 2025(Association for Computational Linguistics) ¸ÞÀÎ Æ®·¢¿¡ äÅõƴÙ"°í 9ÀÏ ¹àÇû´Ù.



ACLÀº Àü»ê¾ð¾îÇÐ ¹× ÀÚ¿¬¾îó¸® ºÐ¾ß¿¡¼­ °¡Àå ±ÇÀ§ ÀÖ´Â ±¹Á¦ Çмú´ëȸ·Î, Àü ¼¼°è ÀΰøÁö´É ¿¬±¸ÀÚµéÀÌ °¡Àå ÁÖ¸ñÇÏ´Â Çà»ç´Ù.


°ø½Ä ¹ßÇ¥´Â ¿À´Â 28ÀϺÎÅÍ 30ÀϱîÁö ¿À½ºÆ®¸®¾Æ ºóÀÇ Austria Center Vienna¿¡¼­ ÁøÇàµÉ ¿¹Á¤ÀÌ´Ù.


ƯÈ÷ À̹ø ³í¹®Àº ÇкΠ3³â Â÷ ÇлýÀÌ ¸ÞÀÎ Æ®·¢¿¡ À̸§À» ¿Ã¸° ÀÌ·ÊÀûÀÎ ¼º°ú·Î ÁÖ¸ñÀ» ¹Þ¾Ò´Ù.


ÇØ´ç ¿¬±¸´Â ´ë±Ô¸ð ¾ð¾î¸ðµ¨(LLM)ÀÇ ´ÙÁß ÅÏ °ø°ÝÀ» ´ÜÀÏ ÅÏÀ¸·Î ¾ÐÃàÇÏ´Â »õ·Î¿î Á¢±Ù ¹æ½ÄÀ» Á¦½ÃÇϸ鼭µµ, 95.9%ÀÇ °ø°Ý ¼º°ø·ü°ú ÃÖ´ë 80%ÀÇ ÅäÅ« Àý°¨À̶ó´Â µÎ ¸¶¸® Åä³¢¸¦ Àâ¾Ò´Ù.


ÀÌ´Â LLMÀÇ ÀáÀçÀû º¸¾È Ãë¾à¼ºÀ» ü°èÀûÀ¸·Î ±Ô¸íÇϰí, º¸´Ù ¾ÈÀüÇÑ AI °³¹ßÀ» À§ÇÑ »õ·Î¿î ±âÁØÀ» Á¦½ÃÇÑ ¼º°ú·Î Æò°¡µÈ´Ù.


±âÁ¸ ¿¬±¸¿¡¼­´Â °ø°Ý È¿À²À» ³ôÀ̱â À§ÇØ ¸ÖƼÅÏ ÇÁ·ÒÇÁÆ® Àü·«ÀÌ ÁÖ·Î »ç¿ëµÅ ¿ÔÀ¸³ª, ÇÏÁØ¿ì ÇкλýÀº À̸¦ ´ÜÀÏ ÅÏÀ¸·Î ¾ÐÃàÇØµµ µ¿ÀÏÇϰųª ´õ ³ôÀº °ø°Ý À§ÇùÀ» ÀçÇöÇÒ ¼ö ÀÖÀ½À» ÀÔÁõÇß´Ù.


¿¬±¸ÆÀÀÌ °³¹ßÇÑ 'M2S(Multi-turn-to-Single-turn)' ÇÁ·¹ÀÓ¿öÅ©´Â ¡âÇÏÀÌÇÂÈ­ ¡â¼ýÀÚÈ­ ¡âÆÄÀ̽ãÈ­ÀÇ 3´Ü°è Àü·«À» ÅëÇØ º¹ÀâÇÑ ´ëÈ­¸¦ ±¸Á¶È­µÈ ´ÜÀÏ ÇÁ·ÒÇÁÆ®·Î º¯È¯ÇÏ´Â ±â¼úÀÌ´Ù.



½ÇÇè °á°ú, Mistral-7B ¾ð¾î¸ðµ¨¿¡¼­ 95.9%ÀÇ °ø°Ý ¼º°ø·üÀ» ±â·ÏÇØ, GPT-4o ´ëºñ 17.5%Æ÷ÀÎÆ® Çâ»óµÈ ¼öÄ¡¸¦ º¸¿´À¸¸ç, 70~80%ÀÇ ÅäÅ« Àý°¨ È¿°ú¸¦ ÅëÇØ µ¿ÀÏ ¸ñÇ¥¸¦ ´Þ¼ºÇÏ´Â µ¥ ÇÊ¿äÇÑ °è»ê ÀÚ¿øÀ» ȹ±âÀûÀ¸·Î ÁÙÀÌ´Â µ¥ ¼º°øÇß´Ù.


ÇÏÁØ¿ì ÇкλýÀº "¼ö¾÷°ú º´ÇàÇÏ¸ç ¾òÀº ½ÇÀü ¿¬±¸ °æÇèÀ̾ú´Ù"¸é¼­ "½ºÅ¸Æ®¾÷°ú Çб³¸¦ ¿À°¡¸ç °øµ¿ Á¦1ÀúÀÚÀÎ ±èÇöÁØ ¿¬±¸ÀÚ¿Í ÇÔ²² AI ¾ÈÀü ¹®Á¦¸¦ Á¤ÀÇÇϰí ÇØ°áÇÑ °úÁ¤ÀÌ Å« ÀÚ»êÀÌ µÆ´Ù"°í ¹àÇû´Ù.


À̾î "»ç¿ëÀÚ°¡ ÇÑ ÁÙ¸¸ ÀÔ·ÂÇØµµ µ¿ÀÏÇÑ À§ÇùÀÌ ÀçÇöµÈ´Ù¸é, ¹æ¾î ½Ã½ºÅÛ ¶ÇÇÑ 'ÇÑ ÁÙ °ËÁõ'À» Åë°úÇØ¾ß ÇÑ´Ù"¸ç À̹ø ¿¬±¸°¡ Á¦½ÃÇÑ ´ÜÀÏ ÅÏ ÇÁ·ÒÇÁÆ® ±â¹Ý °ø°Ý ¸ðµ¨ÀÌ °æ·® º¸¾È Æò°¡ ü°èÀÇ °¡´É¼ºÀ» Á¦½ÃÇÑ µ¥ ÀÇÀǰ¡ ÀÖ´Ù°í ¼³¸íÇß´Ù.


ÀÌ ³í¹®Àº ´ÜÀÏ ÅÏ ÀԷ¸¸À¸·Îµµ ±âÁ¸ LLM º¸¾È ü°è¸¦ ¼Õ½±°Ô ¿ìȸÇÒ ¼ö ÀÖÀ½À» ÀÔÁõÇÔÀ¸·Î½á, ÇöÇà º¸¾È Æò°¡ ¹æ½Ä°ú ¹æ¾î Àü·« Àü¹ÝÀÇ ÀçÁ¤ºñ Çʿ伺À» °­ÇÏ°Ô ½Ã»çÇϰí ÀÖ´Ù.
ÇÏÁØ¿ì ÇкλýÀº ¾ÕÀ¸·Îµµ AI º¸¾È ºÐ¾ß¸¦ Áß½ÉÀ¸·Î ¿¬±¸¸¦ È®ÀåÇØ ³ª°¥ °èȹÀÌ´Ù.



ÀÌÀº¼­ ±âÀÚ libro@asiae.co.kr
<¨ÏÅõÀÚ°¡¸¦ À§ÇÑ °æÁ¦ÄÜÅÙÃ÷ Ç÷§Æû, ¾Æ½Ã¾Æ°æÁ¦ ¹«´ÜÀüÀç ¹èÆ÷±ÝÁö>

´º½º ½ºÅ©·¦À» Çϸé ÀÚÀ¯°Ô½ÃÆÇ ¶Ç´Â Á¤Ä¡ÀÚÀ¯°Ô½ÃÆÇ¿¡ °Ô½Ã±ÛÀÌ µî·ÏµË´Ï´Ù. ½ºÅ©·¦Çϱâ >

0
ÃßõÇϱ⠴ٸ¥ÀÇ°ß 0
|
  • ¾Ë¸² ¿å¼³, »óó ÁÙ ¼ö ÀÖ´Â ¾ÇÇÃÀº »ï°¡ÁÖ¼¼¿ä.
©¹æ »çÁø  
¡â ÀÌÀü±Û¡ä ´ÙÀ½±Û