
¥³¥á¥ó¥È¤¬°ìÈÖ¿¤¤µ»ö¡Ê233¥³¥á¥ó¥È¡Ë¡§¿Í¤Î¿´Íý¤Î΢¤ò¤«¤¯¥Û¡¼¥à¥Ú¡¼¥¸½¸µÒ½Ñ¡§¥ê¥Ô¡¼¥¿¤Ë¤Ê¤Ã¤Æ¤â¤é¤¦¤¿¤á¤Ë¤Ï
¥Ä¥¤¡¼¥È¤¬°ìÈÖ¿¤¤µ»ö¡Ê94¥Ä¥¤¡¼¥È¡Ë¡§¤Á¤ç¤Ã¤ÈÂԤơªtwitter¤äfacebook¤Ë»Ò¶¡¤Î¼Ì¿¿¤ò·ÇºÜ¤¹¤ë¿ÆÃ£¤Ø¤Î·Ù¹ð
¤¤¤¤¤Í¤¬°ìÈÖ¿¤¤µ»ö¡Ê574¤¤¤¤¤Í¡Ë¡§facebook¥¹¥Ñ¥à¤ËÍ×Ãí°Õ¡£¤Ê¤ê¤¹¤Þ¤·¤Î¸«Ê¬¤±Êý¤È¥¢¥«¥¦¥ó¥È¾è¤Ã¼è¤ê¤Î¼ê¸ý¡Ê2013ǯÅÙÈÇ¡Ë
« SQL server¤Î¥Õ¥ê¡¼ÈÇ¡¡SQL Server Express¤Î¥á¥â½ñ¤ | Main | Python¤¬»È¤¨¤ë¥¯¥é¥¦¥É´Ä¶»
¥«¥Æ¥´¥ê¡¼ » AI¡¦¿Í¹©ÃÎǽ March 03, 2019
Neural Network Console¤Î»È¤¤Êý ID:1551605163
°Ê²¼¼«Ê¬³Ø½¬ÍѤΥá¥â¡£ÅÔÅÙÄɵ
¡¦Neural Network Console
https://dl.sony.com/ja/
WindwosÈǤȥ¯¥é¥¦¥ÉÈǤ¢¤ê
help¤Ï°Ê²¼
https://support.dl.sony.com/docs-ja/
¥ì¥¤¥ä¡¼¤Î¥ê¥Õ¥¡¥ì¥ó¥¹¤Ï°Ê²¼
https://support.dl.sony.com/docs-ja/layer_reference/
¡ü»È¤¤Êý¤Ë¤Ä¤¤¤Æ
¥½¥Ë¡¼ Neural Network Console ¤È ¥¨¥¯¥»¥ë¤Ç»Ï¤á¤ë ¥Ë¥å¡¼¥é¥ë¥Í¥Ã¥È¥ï¡¼¥¯
https://www.ecomottblog.com/?p=2424
Sample¤ÎÆü·ÐÊ¿¶Ñ¤òExcel¤Çºî¤ê¡¢Neural Network Console¤Çͽ¬¤·¤¿·ë²Ì
Neural Network Console¤Î»È¤¤Êý¤ò¾Ò²ð¡ª¥Ç¥£¡¼¥×¥é¡¼¥Ë¥ó¥°¤ò¤ä¤Ã¤Æ¤ß¤è¤¦¡ª | ¤·¤í¤Þ¤ë¥é¥¤¥Õ
https://shiromaru-life.com/deeplearning1/
sample¥×¥í¥¸¥§¥¯¥È¤Î¥Ç¡¼¥¿¤Î4¤È9¤ÎÀâÌÀ¤¬¾ÜºÙ¤Ë½ñ¤¤¤Æ¤¢¤ê¡¢¤ï¤«¤ê¤ä¤¹¤¤
Input¤Ç¡¢1,28,28¤Ë¤Ê¤Ã¤Æ¤¤¤ëÍýͳ¡Ê²èÁü¤¬28✕28¤Î¥Ñ¥¿¡¼¥ó¤¬¹Í¤¨¤é¤ì¤ë¤«¤é¡Ë
Sigmoid¤Ï¥·¥°¥â¥ó¥É´Ø¿ô¡Ê0¤«1¤ò½Ð¤·¤¿¤¤¤È¤¤Ë»ÈÍÑ¡Ë
¤Á¤Ê¤ß¤Ë¡¢BinaryCrossEntropy¤Ï¡¢¥ê¥Õ¥¡¥ì¥ó¥¹¤Ë¤¢¤ë¤¬
https://support.dl.sony.com/docs-ja/layer_reference/
¥Ç¡¼¥¿¥»¥Ã¥È¤ÎÊÑ¿ô¤Ï0¤â¤·¤¯¤Ï1¤Ç»ÈÍÑ
ÄêÈÖ¤ÎConvolutional Neural Network¤ò¥¼¥í¤«¤éÍý²ò¤¹¤ë - DeepAge
https://deepage.net/deep_learning/2016/11/07/convolutional_neural_network.html
¡úcedro-blog
http://cedro3.com/
cedro¤µ¤ó¤Îblog¡£Neural Network Console½é¤á¤Æ¿¨¤ë¿Í¤Ï¡¢É¬ÆÉ¤Î¥Ö¥í¥°¡£
²áµîµ»ö¤ò»þ·ÏÎó¤ÇÁ´Éô¸«¤Æ¤ª¤¯¤ÈÎɤ¤¡£
°Ê²¼¡¢¼«Ê¬¤¬ÆÉ¤ßÊÖ¤¹ÍѤΥá¥âÍÑÍ×ÅÀ
[SONY Neural Network Console ¤Ç »Ø¸¶è½Çµ¤ò¥Ç¥£¡¼¥×¥é¡¼¥Ë¥ó¥°]
http://cedro3.com/ai/akb48-dl/
¡¦¡Ö½Ì¾®ÀìÍѡפȤ¤¤¦²èÁü¤Ç¡¢¥Ô¥¯¥»¥ë¤ò32✕32
¡¦È½Äê²èÁü¤òs1¡¢¤½¤¦¤Ç¤Ê¤¤²èÁü¤òs0¤Ë³ÊǼ¤·¡¢Source¤Ë¤¤¤ì¡¢Output¤Ï¶õ
¡¦1,28,28¤Ï¡¢1¤Ï¥â¥Î¥¯¥í¡¢28¤¬¥Ô¥¯¥»¥ë¤òɽ¤·¤Æ¤¤¤ë¤Î¤Ç¡¢
3,32,32¡¢3¤ÏRGP¤Ë»ØÄê
¡¦Ratio¡Ê¡ó¡Ë¤Ï¡¢³Ø½¬ÍѤÈɾ²ÁÍѤÎÈæÎ¨¤ÎÀßÄê¡£¹ç·×100¡ó¡ÊÎã¡§³Ø½¬ÍÑ80¡¢É¾²ÁÍÑ20¡Ë
¡¦Output File 1¡§³Ø½¬ÍÑ¥Õ¥¡¥¤¥ë
¡¦Output File 2¡§É¾²ÁÍÑ¥Õ¥¡¥¤¥ë
¡¦Batch Size¤Ï¡¢°ìÅ٤˽èÍý¤¹¤ë¥Ç¡¼¥¿ÎÌ
¡¡¥Æ¥¹¥È¥Ç¡¼¥¿¤¬30¤Ç¤¢¤ì¤Ð¡¢30
¡¡
[SONY Neural Network Console¤Ç»Ø¸¶è½Çµ¤ò¤â¤Ã¤È¥Ç¥£¡¼¥×¥é¡¼¥ó¥ó¥°]
http://cedro3.com/ai/akb48-more-dl/
¡¦02_binary_cnn.sdcproj¡ÊCNN»ÈÍÑ¡Ë
¡¦¼«Æ°ºÇŬ²½µ¡Ç½¤Î»ÈÍÑ
¡¡CONFIG¢ªStructure Search¢ªEnable
¡¡¤Ë¤¹¤ë¤³¤È¤Ç¡¢±Êµ×³Ø½¬¤¹¤ë
¡¡
¡¡Method¡§Radom¡Ê»þ´Ö¤ò³Ý¤±¤ÆºÇŬ²½¡Ë¡¿Network Feature¡ÜGaussian Process¡ÊÁÇÁ᤯¡Ë
¡¡Optimaize for¡§Error¡Ê¤È¤Ë¤«¤¯¸íº¹¤ò¾¯¤Ê¤¯¡Ë¤«Error and Caluculation¡Ê¸íº¹¤â±é»»Î̤⾯¤Ê¤¯¡Ë
¡¡¤³¤ì¤òÁª¤Ö¤³¤È¤Ë¤è¤ê¡¢¥â¥Ç¥ë¤¬ÊѤï¤ë
¡¡
¡¡¼±ÊÌÀºÅÙ¡ÊAccuracy¡Ë¤¬¤¢¤¬¤ì¤ÐOK
¡¡¡ÊEVALUATION¢ªConfusion Matrix¤Ç³Îǧ¤Ç¤¤ë¡Ë
[SONY Neural Network Console¤ÇÆü·ÐÊ¿¶Ñ³ô²Á¤ò¥Ç¥£¡¼¥×¥é¡¼¥Ë¥ó¥°]
http://cedro3.com/ai/nikkei-stock-dl/
¡¦¹ÔÎó¤Î¥Ç¡¼¥¿
¡¦csvºîÀ®¤¹¤ë¾ì¹ç¤Ï¡¢utf-8¤ÎBOM̵¡Êµ»ö¤Ç¤Ï¡¢Calc»È¤Ã¤Æ¤¤¤ë¤¬¡¢¤µ¤¯¤é¥¨¥Ç¥£¥¿¤Ç¤Ç¤¤ë¡Ë
¡¦²áµî5Æüʬ¤´¤È¤Î¥Ç¡¼¥¿¤òs1.csv¢ªs60.csv¤È¤¤¤¦¥Õ¥¡¥¤¥ë¤ò1¤Ä¤Î¥Ç¥£¥ì¥¯¥È¥ê¤ËÆþ¤ì¤ë
¡¦²èÁü¥Ç¡¼¥¿¤È°ã¤¤¡¢¿ôÃͥǡ¼¥¿¤Î¾ì¹ç¤Ï¡¢³Ø½¬ÍÑ¥Õ¥¡¥¤¥ë¤Èɾ²ÁÍÑ¥Õ¥¡¥¤¥ë¤â¼«Ê¬¤Çºî¤ëɬÍ×Í
¡¦³Ø½¬ÍÑ¥Õ¥¡¥¤¥ë¤äɾ²Á¥Õ¥¡¥¤¥ë¤Ë¤Ï¡¢»ÈÍѤ¹¤ë¿ôÃͥǡ¼¥¿¥Õ¥¡¥¤¥ë¤Î̾Á°¤È¥é¥Ù¥ë¤òµºÜ
Îã¡Ë
x:data,y:label
.\dir\s1.csv,0
.\dir\s2.csv,1
¡¦¡¦¡¦
¤Î¤è¤¦¤Ë»ØÄê
¥Õ¥©¥ë¥À¤Ï£³¤ÄºîÀ®¤¹¤ë
1¤Ä¤ÏAI¤Î½ÐÎÏÍÑ¡¢
»Ä¤ê¤Î2¤Ä¤Ï³Ø½¬ÍѤÈɾ²ÁÍÑ¥Õ¥¡¥¤¥ë
¾°¡¢¥³¥á¥ó¥È¤Ë¤â¤¤¤í¤¤¤í¤Ê¿Í¤«¤é¤Î¼ÁÌ䤬¤¢¤ê¡¢
¥³¥á¥ó¥È¤â´Þ¤á¤ÆÆÉ¤ß¹þ¤à¤³¤È¿ä¾©
¡¦Input¤ò 1,28,28 ¢ª 5,4 ¤ËÊѹ¹
¡Ê¥â¥Î¥¯¥í28¡ß28¥Ô¥¯¥»¥ë¤Î²èÁü¤«¤é¡¢5¹Ô¡ß4Îó¤Î¿ôÃͥǡ¼¥¿¤ËÊѹ¹¡Ë
¡¦Max epoch¡§³Ø½¬¥Õ¥¡¥¤¥ë¤ò²¿²ó·«¤êÊÖ¤·¤Æ³Ø½¬¤µ¤»¤ë¤«
¡¦Batch Size ¤Ï£±²ó¤Î³Ø½¬¤Ë»È¤¦¥Ç¡¼¥¿¿ô
¡¡É¾²Á¥Ç¡¼¥¿¤¬¾¯¤Ê¤¤¾ì¹ç¤Ï¡¢¤½¤Î¿ô¤ò»ØÄꤷ¤Æ¤â¤è¤¤
¡¦£±¤Ä£±¤Ä¥×¥í¥¸¥§¥¯¥È¤Îɾ²Á¤·¡¢
¡¡ÌÀ¤é¤«¤Ëɾ²Á¸íº¹¡ÊValidation error¡Ë¤¬¹â¤¤¥×¥í¥¸¥§¥¯¥È¤Ï¥¹¥¥Ã¥×¡¢
¡¡¼±ÊÌÀºÅÙ¤Î¥×¥í¥¸¥§¥¯¥È¤ò³Ø½¬¡¦É¾²ÁºÑ¤ß¤Î¥Ë¥å¡¼¥é¥ë¥Í¥Ã¥È¥ï¡¼¥¯¤È¤¹¤ë
¡¦y:label ¤Ï¡Ö2¡×¤Ë¤¹¤ë¡Ê£²¤Ë¤·¤Æ¤ª¤«¤Ê¤¤¤Èɽ¼¨ÈϰϤ¬£°¡¤£±¤À¤±¤Ë¤Ê¤ë¡Ë
SONY Neural Network Console¤Ç½÷À¤Î´é¤Î¥¯¥é¥¹Ê¬Îà¤ò¤ä¤Ã¤Æ¤ß¤ë
http://cedro3.com/ai/woman-face-dl/
¡¦LeNet.sdcproj»ÈÍÑ
¡¦£´¤Ä¤Î²èÁü¤Î¼ïÎà¤ò¤½¤ì¤¾¤ì¤Î¥Ç¥£¥ì¥¯¥È¥ê¤Ë³ÊǼ
¡¦¼«Æ°ºÇŬ²½
¡¦¼±ÊÌÀºÅÙ¡ÊAccuracy¡Ë¤Î³Îǧ
SONY Neural Network Console¤Ç½÷À¤Î´é²èÁü¤òÀ¸À®¤·¤Æ¤ß¤ë
http://cedro3.com/ai/generate-face-dl/
¡¦mnist_dcgan_with_label.sdcproj»ÈÍÑ
¡¦³Ø½¬¥Õ¥¡¥¤¥ë¤¬½Å¤¤¤Î¤Ç¡¢1/100¤Ë²Ã¹©
¡¦DCGAN¤Ï2015ǯ¹Í°Æ¤Î¹â²òÁüÅÙ²èÁü¤ÎÀ¸À®¥â¥Ç¥ë
SONY Neural Network Console¡¡²èÁü¥Ç¡¼¥¿¤Î¿åÁý¤·¤Ï͸ú¤«¡©
http://cedro3.com/ai/data-inflated-dcgan/
¡¦³Ø½¬¥Ç¡¼¥¿¤òÁý¤ä¤¹¤¿¤á¡¢¡ÖXnConvert¡×¤ò»È¤¤¡¢
¡¡¡ÖÀµÁü¡¢¶ÀÁü¡×¡ß¡ÖºÌÅÙ¡Ü¡¼¡¢ÊѲ½¤Ê¤·¡×¡Ö¤Ü¤«¤·¡¢¥Ô¥ó¥È¶¯Ä´¡¢¥Î¥¤¥º¡¢ÊѲ½¤Ê¤·¡×
¡¡£²¡ß£³¡ß£´¡á£²£´ÇܤβèÁü¥Ç¡¼¥¿¤òºîÀ®
SONY Neural Network Console Ææ¤Î¥µ¥ó¥×¥ë¥Ç¡¼¥¿¥»¥Ã¥È
http://cedro3.com/ai/mystery-sample-dataset/
¡¦ÊÑ¿ô¤ò»È¤Ã¤¿¤â¤Î¡Ê²èÁü¤Ç¤â¡¢¹ÔÎó¤Ç¤â¤Ê¤¤¡Ë¡£ÊÑ¿ô£´¤Ä¤Î¾ì¹ç¤Ï¡¢1,28,28 ¢ª 4¤ËÊѹ¹
¡¦binary_connect_minst_MLP.sdcproj»ÈÍÑ
¡¦ÊÑ¿ô¤Ç¤¢¤ì¤Ð¡¢ÊÑ¿ô¤ÎÃͤò³Ø½¬¥Õ¥¡¥¤¥ë¤Èɾ²Á¥Õ¥¡¥¤¥ë¤ËľÀܽñ¤±¤ë
Îã¡ËÆþÎϤ¬4¤Ä¡¢½ÐÎϤ¬1¤Ä¤Ç¤¢¤ì¤Ð
x__0:xxx,x__1:xxx,x__2:xxx,x__3:xxx,y__0:xxx
¿ô»ú,¿ô»ú,¿ô»ú,¿ô»ú,0
¤Î¤è¤¦¤Ë¤¹¤ë
¡¦+1¡Á-1¤Ë¤À¤¤¤¿¤¤¼ý¤Þ¤ë¤è¤¦¤Ë¤¹¤ë
¡¡¤Ä¤Þ¤ê¡¢¤â¤È¤Î¿ôÃͤ¬Â礤±¤ì¤Ð¡¢Á´ÂΤοô»ú¤ò³ä¤Ã¤Æ¡¢Á´ÂΤ¬¤ª¤µ¤Þ¤ë¤è¤¦¤Ë¤¹¤ë
¡¡³Ø½¬¥Õ¥¡¥¤¥ë¤Èɾ²Á¥Õ¥¡¥¤¥ë¤ò¾åµ¥Õ¥©¡¼¥Þ¥Ã¥È¤Çºî¤ì¤Ð¤è¤¤
¡¦X¤È¿ô»ú¤Î´Ö¤Ë¤¢¤ë¤Î¤Ï¡¢¥À¥Ö¥ë¥¢¥ó¥À¡¼¥¹¥³¥¢
SONY Neural Network Console ²ÈĤò¿äÄꤹ¤ë¥Ë¥å¡¼¥é¥ë¥Í¥Ã¥È¥ï¡¼¥¯
http://cedro3.com/ai/rent-dl/
¡¦²óµ¢ÌäÂê
¡¦ÊÑ¿ô»ÈÍÑ
¡¦ÊÑ¿ô¤Ï£³¤Ä¡¢ÀìÍÌÌÀÑ¡¢±ØÅÌÊâ¡¢ÃÛǯ¿ô¡£½ÐÎϤÏÄÂÎÁ¤Ç´ÉÍýÈñ¹þ¤ß
¡¦01‗logistic_regression.sdcproj
1,28,28 ¢ª 3
¡¦Max Epoch¤ò¿¤á¤ËÀßÄê¡ÊÎã¡§2000²ó¡Ë
¡¦É¾²Á¥Ç¡¼¥¿¤Î¥»¡¼¥Ö
SONY Neural Network Console ǯÎð¤ò¿äÄꤹ¤ë¥Ë¥å¡¼¥é¥ë¥Í¥Ã¥È¥ï¡¼¥¯
http://cedro3.com/ai/age-dl/
¡¦¡ÖImage Downloder¡×Chrome³ÈÄ¥¤Ç¥Õ¥¡¥¤¥ë°ì³ç¥À¥¦¥ó¥í¡¼¥É¡¢XnCovert¤Ç¥ê¥µ¥¤¥º
¡¦Ç¯Î𤴤Ȥ˥ե©¥ë¥ÀºîÀ®
¡¦CSV¥Õ¥¡¥¤¥ë¤òºî¤ë¤Î¤¬ÂçÊѤʤΤǡ¢²èÁü³ÊǼ¤À¤±¤·¤Æ¡¢
¡¡°ìÅÙ¡¢Output File¤Ï³Ø½¬¥Õ¥¡¥¤¥ë¤ÎÊý¤À¤±100%¤ÇÀ¸À®¡¢
¡¡¤³¤Î³Ø½¬ÍÑ¥Õ¥¡¥¤¥ë¤òÊÔ½¸¤·¤Æ¡¢³Ø½¬¥Õ¥¡¥¤¥ë¤Èɾ²Á¥Õ¥¡¥¤¥ë¤Ëʬ³ä¤¹¤ë
¡¦BinaryConnectAffine_2 ¤Ï¡¢10 ¢ª 1¡Ê10ʬÎफ¤éÊÑ¿ô¡Ë¡£
¡¦Softmax ¢ª Sigmoid ¡¢CatgericalCrossEntorpy ¢ª SquaredError ¡ÊʬÎफ¤é²óµ¢¡Ë
SONY Neural Network Console ̤Íè¤òͽ¬¤¹¤ë¥Ë¥å¡¼¥é¥ë¥Í¥Ã¥È¥ï¡¼¥¯
http://cedro3.com/ai/future-prediction-dl/
¡¦¹Ò¶õ²ñ¼Ò¤Î¾èµÒ¿ô¤òͽ¬
¡¦¾èµÒ¿ô¤Î¿ôÃͤΤߡ¢1ǯ12¥ì¥³¡¼¥É¡¢¤³¤ì¤òǯ¿ô¤À¤±ºîÀ®
¡¦eleman_net.sdcproj»ÈÍÑ
¡¦BinaryCrossEntropy¡¡¢ª¡¡SquaredError ¤ËÊѹ¹¡ÊʬÎफ¤é¿ôÃͤءˡ£
¡¦Input ¤ò1,28,28 ¢ª 12,1 ¡ÊÇò¹õ28¡ß28²èÁü¤«¤é12¹Ô¡ß1Îó¤Î¹ÔÎó¤ËÊѹ¹¡Ë
¡¦¾åµ¤À¤È¡¢Í½Â¬¤¬¥¤¥Þ¥¤¥Á¤Ê¤Î¤Ç¡¢¡ÉĹ´üۡɤÊLSTM¤â¼Â¸³
¡¡long_short_term_memory¡ÊLSTM¡Ë.sdcproj
¡¡Unit¤ÎÃæ¤Ë¡¢LSTM¤È¤¤¤¦¤Î¤¬¤¢¤ë¤Î¤Ç¤³¤ì¤¬»ÈÍѤǤ¤ë
SONY Neural Network Console ¤Ç¥æ¡¼¥ß¥ó¤ò¥Ç¥£¡¼¥×¥é¡¼¥ó¥ó¥°
http://cedro3.com/ai/yuming-predict-song/
http://cedro3.com/ai/yuming-more-dl/
¡¦Ê¸¾Ï¤Î¼«Æ°À¸À®¡¢Python¤¬É¬Í×
anacond¡¢gensim¡¢Mecab¡¢ipadic»ÈÍÑ
¡¦SONY Neural Network Console ¤ËÂÔ˾¤Î¥µ¥ó¥×¥ë²èÁü¤¬Äɲ䵤ì¤Þ¤·¤¿
http://cedro3.com/ai/sample-data-set/
Neural Network Libraries ¤ò¥¤¥ó¥¹¥È¡¼¥ëÊýË¡
SONY Neural Network Console ¤Ç¥ß¥ËAlexnet¤òºî¤ë
http://cedro3.com/ai/mini-alexnet/
¡¦Alexnet¡§²èÁüǧ¼±¡Ê2012ǯ¡Ë
¡¦¥ß¥Ë Alexnet ¤òÀ߷פòºîÀ®¤·¼Â¸½¤¹¤ëÊýË¡
¡¦¥¯¥é¥¦¥ÉÈǤǡ¢¥Ç¡¼¥¿¥»¥Ã¥È¥¢¥Ã¥×¥í¡¼¥É¤ÎÊýË¡
¡¡¥Ç¡¼¥¿¥»¥Ã¥È¥¢¥Ã¥×¥í¡¼¥É¥Ä¡¼¥ë¤ò»È¤¦
¡¡
SONY Neural Network Console ¤Ç¥ß¥Ë VGGnet ¤òºî¤ë
http://cedro3.com/ai/mini-vgg-net/
¡¦VGGnet¡§Alexnet¤Î¿Ê²½·Á¡Ê2014ǯ¡Ë
¡¦Batch Normalization¤ò»È¤ï¤Ê¤¤¤ÈÀºÅÙ¤¬°¤¤
SONY Neural Network Console ¤Ç¥ß¥Ë Resnet ¤òºî¤ë
http://cedro3.com/ai/mini-resnet/
¡¦Resnet¡§2015ǯ¤Î²èÁüǧ¼±¡¢»Äº¹³Ø½¬¤È¤¤¤¦¼êË¡¤òÆþ¤ì¤Æ¤¤¤ë
¡¦Resnet ¤Î¥µ¥ó¥×¥ë¥×¥í¥¸¥§¥¯¥È¤¢¤ê
¡¦ImageAugmentation ¤¬ÊÑ·Á½èÍý¡Ê³ÈÂç½Ì¾®¡¢²óž¡¢ÏÄ¡¢È¿Å¾¡¢µ±ÅÙÊѹ¹¡¢¥³¥ó¥È¥é¥¹¥ÈÊѹ¹¤Ê¤É¡Ë¤ò¹Ô¤¦¤³¤È¤Ç¡¢¤¤¤ï¤æ¤ë¥Ç¡¼¥¿¤Î¿åÁý¤·¸ú²Ì¤ò¼Â¸½¤¹¤ë¥Ö¥í¥Ã¥¯
SONY Neural Network Console ¤Ç¡¢´é²èÁüÀ¸À®¤ËºÆ¤Ó¥È¥é¥¤
http://cedro3.com/ai/mini-dcgan/
¡¦¡ÖImageSpider¡×¤Ç¡¢¥¡¼¥ï¡¼¥É¤Î²èÁü¼«Æ°¥À¥¦¥ó¥í¡¼¥É
¡¦´é¤ÎÀÚ¤êÈ´¤¤Ë¡ÖOpneCV¡×¤ò»ÈÍÑ¡ÊpythonɬÍסË
http://cedro3.com/2018/01/
ÅÓÃæ¤Þ¤Ç
¤½¤Î¾¡¢²èÁü°Ê³°¤Ç¡¢ÌÌÇò¤½¤¦¤Ê¤â¤Î
³Ø½¬ºÑ¤ßWord2Vec ¥â¥Ç¥ë¤ò¥µ¥¯¥Ã¤È»È¤Ã¤Æ¤ß¤ë
http://cedro3.com/ai/word2vec-gensim/
Keras LSTM¤Ç¥È¥ì¥ó¥Éͽ¬¤ò¤·¤Æ¤ß¤ë
http://cedro3.com/ai/keras-lstm/
Keras LSTM¤Ç¥µ¥¯¥Ã¤Èʸ¾ÏÀ¸À®¤ò¤·¤Æ¤ß¤ë
http://cedro3.com/ai/keras-lstm-text/
Keras MLP¤Îʸ¾Ï¥«¥Æ¥´¥ê¡¼Ê¬Îà¤òÍý²ò¤¹¤ë
http://cedro3.com/ai/keras-mlp-reuters/
Keras MLP¤Îʸ¾Ï¥«¥Æ¥´¥ê¡¼Ê¬Îà¤òÆüËܸì¤Î¥Ç¡¼¥¿¥»¥Ã¥È¤Ç¤ä¤Ã¤Æ¤ß¤ë
http://cedro3.com/ai/keras-mlp-livedoor/
http://cedro3.com/2018/10/
¤Þ¤Ç¥Á¥§¥Ã¥¯
PyTorch ²èÁü¤«¤éʸ¾Ï¤ò¥µ¥¯¥Ã¤ÈÀ¸À®¤·¤Æ¤ß¤ë
http://cedro3.com/ai/pytorch-image-captioning/
PyTorch GPT-2¤Ç¥µ¥¯¥Ã¤Èʸ¾ÏÀ¸À®¤·¤Æ¤ß¤ë
http://cedro3.com/ai/pytorch-gpt-2/
¡ú¥Ë¥å¡¼¥é¥ë¥Í¥Ã¥È¥ï¡¼¥¯¥³¥ó¥½¡¼¥ë ¥«¥Æ¥´¥ê¡¼¤Îµ»ö°ìÍ÷ - "BOKU"¤ÎIT¤ÊÆü¾ï
https://arakan-pgm-ai.hatenablog.com/archive/category/%E3%83%8B%E3%83%A5%E3%83%BC%E3%83%A9%E3%83%AB%E3%83%8D%E3%83%83%E3%83%88%E3%83%AF%E3%83%BC%E3%82%AF%E3%82%B3%E3%83%B3%E3%82%BD%E3%83%BC%E3%83%AB
¤³¤Á¤é¤âºÇ½é¤«¤éµ»ö¤òÆÉ¤à¤Ù¤¡£
¥µ¥ó¥×¥ë¥×¥í¥¸¥§¥¯¥È¤òÊѹ¹¤·¤Æ¡¢¿·¤·¤¤Ì¾Á°¤ÇÊݸ¤¹¤ë¡§»È¤¤Êý£²
https://arakan-pgm-ai.hatenablog.com/entry/2017/08/20/003000
¡¦¡Öconvolution¡×¡ÖReLU¡×¡ÖMaxPooling¡×¤Î£³¤Ä¤ÎÁȤ߹ç¤ï¤»
¡¦CNN¡Ê Convolution Neural Network¡Ë¤È¸Æ¤Ð¤ì¤ë¡¢²èÁü¤Îǧ¼±ÀºÅÙ¸þ¾å¤Ë¸ú²Ì
¡¦Äɲ乤ëÁؤϡ¢input¤ÈAffine¤Î´Ö¤Ë¶´¤ß¹þ¤à
¥ª¥ê¥¸¥Ê¥ë¥Æ¥¥¹¥È¥Ç¡¼¥¿¤Ç¿·µ¬¥×¥í¥¸¥§¥¯¥ÈÄɲ᧻Ȥ¤Êý£³
https://arakan-pgm-ai.hatenablog.com/entry/2017/08/23/003000
¿ôÃͤ«¤é¥Î¡¼¥Þ¥ë¤ÈÂÀ¤Ã¤Æ¤¤¤ë¿Í¤òȽÃÇ
¡¦¡Ö¥Ç¡¼¥¿¥»¥Ã¥ÈCSV¤È¥Ç¡¼¥¿CSV¤òʬ¤±¤Æºî¤ë¡×
¡¡¡Ö£±¥Õ¥¡¥¤¥ë¤ÇºîÀ®¡×¤Î£²¤Ä¤¬¤¢¤ë
¡¦dataset¤Î¡ÖImage Normalization¡×¡Ê²èÁü¤ÎÀµµ¬²½¡Ë¤Î¥Á¥§¥Ã¥¯¤Ï¤Ï¤º¤¹
¡¦Äɲä·¤¿¥Ç¡¼¥¿¥»¥Ã¥È¤ÎÀ°¹çÀ¤ò³Îǧ¤¹¤ë¾ì¹ç¤Ï¡ÖCheck Consistency¡×
¡¡ºÇ¸å¤Î¹Ô¤Ë¡ÖNo inconsistency were found.¡×¡ÊÌ·½â¤Ï¸«¤Ä¤«¤ê¤Þ¤»¤ó¤Ç¤·¤¿¡£¡Ë¤Èɽ¼¨¤µ¤ì¤ì¤ÐOK
¡¦£²Ã͡ʥΡ¼¥Þ¥ë¤«ÂÀ¤Ã¤Æ¤¤¤ë¡Ë¤Î¤Ç¡¢BinaryCrossEntropy¤ò»È¤¦
¡¡£³ÃͰʾå¤Ë¤Ê¤Ã¤¿¤é¡¢¤½¤³¤ÏSoftmaxCrossEntropy¤Ë¤¹¤ë
¡¦Input¤Î»ØÄêÊýË¡¤Ï¡¢ÊÑ¿ôÊý¼°¡Ê£±¤Ä¤Î¥Õ¥¡¥¤¥ë¡Ë¤Ê¤é¡¢°ú¿ô¤Ï£±¤Ä¤Î¤ß¡Êx¤¬3¸Ä¡¢y¤¬1¤Ê¤é¡¢3¤ÈµºÜ¡Ë
¡¡¥Õ¥¡¥¤¥ë»ØÄê¤Ê¤é¡¢¹Ô¿ô¡¢Îó¿ô¡Ê£±¥Õ¥¡¥¤¥ë¤¬¡Ö£±¹Ô£³Îó¡×¤Ê¤Î¤Ç¡¢1,3¡Ë
¡¦Affine¤Î¥ì¥¤¥ä¡¼¤òÁªÂò¤·¤Æ¡¢outshape¤ò¡¢input¤Ë¤¢¤ï¤»¤Æ¡Ö1¡×¤Ë¤¹¤ë
¥ì¥¤¥ä¡¼¤ÎÁؤòñ½ã¤Ë¿¼¤¯¤·¤Æ¤â¥À¥á¤Ê¤³¤È¤ò³Îǧ¤¹¤ë¡§»È¤¤Êý£´
https://arakan-pgm-ai.hatenablog.com/entry/2017/08/26/080000
¡¦³Ø½¬¡§ÆþÎϤ«¤é·×»»¤·¤Æ¡¢½Å¤ß¤ò·×»»¤·¡¢Ä´À°¤·¤Æ¤¤¤¯
¡¡É¾²Á¡§·×»»¤·¤¿½Å¤ß¤ò»È¤¤¡¢¤³¤Î¥é¥Ù¥ë¤À¤Èͽ¬¤¹¤ë
¡¡
¡¡¡¡¡·×»»¡ÊÆþÎϡ߽ŤߡܥХ¤¥¢¥¹¡Ë¡§Affine
¡¡¢¡¡¼¡¤ÎÁؤËÅϤ¹·ë²Ì¤òÀ°¤¨¤ë¡§ReLU¡¡Ëô¤Ï¡¡Sigmoid¡¡¤Þ¤¿¤Ï¡¡Tanh¡Ê¥Ï¥¤¥Ý¥ê¥Ã¥¯¥¿¥ó¥¸¥§¥ó¥È¡Ë
¡¡£¡¡·ë²Ì¤«¤é³ÎΨ¤ò·×»»¤·¤ÆÅú¤¨¤ò½Ð¤¹¡§Softmax
¡¡¤¡¡Åú¤¨¹ç¤ï¤»¤ò¤¹¤ë¡§CategoricalCrossEntropyËô¤ÏBinaryCrossEntropy¡ÊÃÍ£²¤Ä¡Ë
¡¡
¡¡¢¨¥µ¥¤¥È¤Ç¤Ï¤³¤ì¤¬¿Þ²ò¤·¤ÆÀâÌÀ¤µ¤ì¤¤¤ë¤¿¤á¡¢¤È¤Æ¤â¤ï¤«¤ê¤ä¤¹¤¤
¡¡¢¨£¤ÎSoftmax¡¡¡Ü¡¡¤¤ÎCategoricalCrossEntropy¤ò¤¢¤ï¤»¤¿SoftmaxCrossEntropy¡ÊÃÍ£³¤Ä°Ê¾å¡Ë
¡¡¤òÄ̾ï¤Ï»È¤¦
¡¡
¡¡¤Ä¤Þ¤êÃÍ£³¤Ä¤Ê¤é
¡¡Affine¢ª¡ÊReLU or Sigmoid or Tanh¡Ë¢ªSoftmaxCrossEntropy
¡¡ÃÍ£²¤Ä¤Ê¤é¡¢ºÇ¸å¤¬SoftmaxCrossEntropy¡£¤¿¤À¤·¡¢Ãͤ¬£²¤Ä¤Î¾ì¹ç¤ÏSigmoid°ìÂò¤Ë¤Ê¤ë¤Î¤Ç
¡¡Affine¢ª Sigmoid¢ªBinaryCrossEntropy
¡¡¤³¤ì¤¬£±ÁؤδðËÜ·Á¡£¾åµ¤ËÁؤòÄɲ乤ë¾ì¹ç¤Ï¡¢¤ò²Ã¤¨¤Æ¤¤¤¯
¡¦Sigmoid¡¡¤Ï0.0¡Á1.0
¡¡Tanh¤Ï¡¢-1¤«¤é1
¡¡ReLU¤Ï¡¢0¤è¤ê¾®¤µ¤¤¿ô¤Ï0¤Ë¤·¤Æ¡¢0¤è¤êÂ礤¤¾ì¹ç¤Ï¤½¤Î¤Þ¤Þ¤Ë¤¹¤ë
¥ì¥¤¥ä¡¼¡ÖAffine¡×¡ÊÁ´·ë¹çÁءˤλÅÁȤò¿ô¼°¤Ê¤·¤Ç²òÀâ
https://arakan-pgm-ai.hatenablog.com/entry/2018/11/05/090000
¡¦o = Wi+b¡¡¡Êi¤ÏÆþÎÏ¡¢o¤Ï½ÐÎÏ¡¢W¤Ï½Å¤ß¡¢b¤Ï¥Ð¥¤¥¢¥¹¹à¤ò¼¨¤¹¡Ë
¡¦o,w,i¤Ï¹ÔÎó¥Ç¡¼¥¿
¡¦wi¤ÏÆâÀѡʹÔÎó¤Î³Ý¤±»»¡Ë
¡¦Á´·ë¹çÁؤϹÔÎó¤òÊ¿¤é¤Ë¤·¤Æ·×»»¤¹¤ë
¡¦(28,28,1)¡áÉý28¡ß¹â¤µ28¡ß1¥Á¥ã¥ó¥Í¥ë¤Î¥Ç¡¼¥¿¤Ê¤é¡¢°ìö¡¡28¡ß28¡ß1¡á¡ä784¤Î¥µ¥¤¥º¤Î£±¼¡¸µ¤Ë¤¹¤ë
CNN¤Î¡ÖMaxPooling¥ì¥¤¥ä¡¼¡á¥×¡¼¥ê¥ó¥°ÁءˡפλÅÁȤò¡¢¿ô¼°¤Ê¤·²òÀâ
https://arakan-pgm-ai.hatenablog.com/entry/2018/11/16/090000
¡¦Pooling¥ì¥¤¥ä¡¼¤Ï¡¢MaxPooling¡ÊºÇÂç¡Ë¡¢SumPooling¡ÊÁí·×¡Ë¡¢AveragePooling¡ÊÊ¿¶Ñ¡Ë¤«¤é¡¢²¿ÅÙ¤â¼èÆÀ¤¹¤ë
¡¦CNN¡ÊConvolutional Neural Network¡Ë¤Î¾ì¹ç¡¢´ðËÜŪ¤ËConvolution¤ÈPooling¤Ï¥»¥Ã¥È¤Ç»È¤¦
CNN¤Î¡ÖConvolution¥ì¥¤¥ä¡¼¡á¾ö¤ß¹þ¤ßÁءˡפλÅÁȤò¡¢¿ô¼°¤Ê¤·¤Ç²òÀâ
https://arakan-pgm-ai.hatenablog.com/entry/2018/11/14/090000
¡¦Convolution¡á¾ö¤ß¹þ¤ßÁØ
¡¦¤â¤·¡¢Affine¤Ç¹Ô¤ª¤¦¤È¤¹¤ë¤È¡¢Ê¿¤Ë¤¹¤ë¤³¤È¤Ë¤è¤ê
¡¡28¡ß28¡ß1¡á¡ä784¤Î¥µ¥¤¥º¤Î£±¼¡¸µ¤Î¥Ç¡¼¥¿¤Ë¤·¤Æ·×»»¤¹¤ë¤Î¤Ç¡¢
¡¡Æó¼¡¸µ¤À¤Ã¤¿»þ¤Î°ÌÃÖ¾ðÊó¤ò¼º¤Ã¤Æ¤·¤Þ¤¦
¡¡¢ªËÜÍè°ã¤¦²èÁü¤Ê¤Î¤Ë¡¢Æ±¤¸²èÁü¤È¤·¤ÆÇ§¼±¤·¤Æ¤·¤Þ¤¦
¡¡°ÌÃÖ¾ðÊó¤ò»Ä¤¹¤¿¤á¤Ë¡¢Convolution¤ò»È¤¦
¡¦¥Õ¥£¥ë¥¿¡¼¡§¥«¡¼¥Í¥ë¡ÊKernel¡Ë¤ò¤«¤±¤¢¤ï¤»¤ë¤³¤È¤Ç
¡¡Affine¡áÁ´·ë¹çÁؤǤ϶èÊ̤¬¤Ä¤«¤Ê¤«¤Ã¤¿²èÁü¤¬¡¢Convolution¡á¾ö¤ß¹þ¤ßÁؤǶèÊ̤¬¤Ä¤¯¤è¤¦¤Ë¤Ê¤ë
¡¦¼ÂºÝ¤ÎÀßÄê¤Ï¡¢Convolution¤ÎkernelShape¤¬¡¢¥Õ¥£¥ë¥¿¡¼¤Î¥µ¥¤¥º¤Ë¤Ê¤ë
¤´¤¯Àõ¤¤CNN¡ÊConvolutional Neural Network¡Ë¤ò²¿¥Ñ¥¿¡¼¥ó¤«»î¤¹¡§»È¤¤Êý£µ
https://arakan-pgm-ai.hatenablog.com/entry/2017/08/27/080000
¡¦Convolution¢ªReLU¢ªMaxPooling
¡¡Convolution¢ªReLU¢ªConvolution¢ªReLU¢ªMaxPooling¡Ê¼ã´³²þÁ±¡Ë
¡¡Convolution¢ªReLU¢ªMaxPooling¢ªConvolution¢ªReLU¢ªMaxPooling¡Ê²þÁ±¡Ë
¡¦4,9¤Î²èÁü¥µ¥ó¥×¥ë¤ò0¡Á9¤Ë¤¹¤ëÊýË¡
¡¦Ãʳ¬Åª¤Ë½ÐÎÏ·ë²Ì¤ò¤Ø¤é¤¹¡ÊÎã¤Ç¤Ï¡¢2304¢ª144¢ª10¡Ë¤È¤¹¤ë¤¿¤á¡¢Affine¤ò¶´¤ó¤Ç¤¤¤ë
Xavier¤Î½é´üÃÍ¡¿He¤Î½é´üÃͤλȤ¤Ê¬¤±¤È¡ÖOptimizer¡×¤ÎÁª¤ÓÊý¡§»È¤¤Êý£¶
https://arakan-pgm-ai.hatenablog.com/entry/2017/09/02/003000
¡¦½Å¤ß¡Êw¡Ë¤ò·×»»¤·¤Æ¡¢·ë²Ì¤ÈÀµ²ò¤òÈæ³Ó¤·¤Æ¡¢º¹°Û¤¬¤¢¤ë¡Ê»¼ºÎ¨¡Ë¾ì¹ç¤Ë¾®¤µ¤¯¤·¤Æ¤¤¤¯¤¿¤á¡¢
¡¡½Å¤ß¤òÁý¤ä¤·¤¿¤ê¸º¤é¤·¤¿¤ê¤·¤Æ¡¢¹¹¿·¤·¤Æ¤¤¤¯
¡¦½Å¤ß¤Î½é´üÃͤÏConvolution¤ÈAffine¤Î³Æ¥ì¥¤¥ä¡¼¤Ë¤¢¤ë¡¢¡ÖW.Initializer¡×¡¦¡¦¡¦Edit¤ÇÁª¤Ö
¡¦½é´üÃͤÇÍ̾¤Ê¤â¤Î¤Ç¡ÖXavier¤Î½é´üÃ͡פȤ¤¤¦¤Î¤¬¤¢¤ê¡¢
¡¡¡ÖSigmoid¡×¤«¡ÖTanh¡×¤Ç»ÈÍѤ¹¤ë¡ÊReLU¤Ï»ÈÍѤ·¤Ê¤¤¡Ë
¡¡NormalConvolutionGlorot¡¡or NormalAffineGlorot
¡¦ReLU¤ÏHe¤Î½é´üÃͤò»È¤¦
¡¡NormalConvolutionHeForward or NormalAffineHeForward
¡¦Optimizer¤Ï¡¢½Å¤ß¤Î¹¹¿·¤ÎÄ´À°Éý¤Î¤³¤È¡¦¡¦¡¦¡¦config¤ÇÀßÄê¤Ç¤¤ë
¡¡ÂåɽŪ¤ÊOptimizer¤Ï
¡¡SGD¡§Ã±½ã¤Ë°ìÄê¤ÎÃͤòÁý¤ä¤·¤¿¤ê¡¢¸º¤é¤·¤¿¤ê¤¹¤ë
¡¡Momentum¡§SGD¤Î²þÁ±ÈÇ¡£¥¸¥°¥¶¥°¤¬¾®¤µ¤¯¤Ê¤ëÊý¸þ¤ËÉý¤òÄ´À°¤¹¤ë
¡¡AdaGrad¡§³Ø½¬¤Î¿Ê¤à¤Ë¤Ä¤ì¤Æ¡¢³Ø½¬·¸¿ô¤ò¸º¿ê¤µ¤»¡¢¼ý«¤·¤ä¤¹¤¯¤¹¤ë
¡¡Adam¡§Momentum¤ÈAdaGrad¤Î¹çÂÎ
¡¡Í¥¤ì¤Æ¤¤¤ë¤Î¡¢¥Ç¥Õ¥©¥ë¥È¤Ï¡¢Adam¤ËÀßÄꤵ¤ì¤Æ¤¤¤ë
Epoch¿ô¤È¥ß¥Ë¥Ð¥Ã¥Á¥µ¥¤¥º¤Î²òÀâ¤È¡¢ÊѲ½¤µ¤»¤¿»þ¤ÎÀºÅÙ¤ÎÊѲ½¡§»È¤¤Êý£·
https://arakan-pgm-ai.hatenablog.com/entry/2017/09/03/080000
¡¦Max Epoch¡§³Ø½¬²ó¿ô
¡¦Batch Size¡§£±²ó¤Î³Ø½¬¤Îñ°Ì
¡¡¥Ç¥Õ¥©¥ë¥È¤Ï¡ÖEpoch¡á100¡×¡ÖBach Size=64¡×¡¢Traiing¥Ç¡¼¥¿¤Ï1500·ï¤Î¾ì¹ç¡¢
¡¡1²ó¤Î½èÍý¤Ç64·ï¡¢1500·ï¤Ç1ñ°Ì¤Î³Ø½¬¤ò100²ó·«¤êÊÖ¤¹¡Ê1500¡ß100¤Ç15Ëü¤Î³Ø½¬¡Ë
¡¡
²á³Ø½¬¤òÂ賤·¤Æ¡¢ÍÞÀ©¤¹¤ëµ»½Ñ¡Ê¥ì¥¤¥ä¡¼¡Ë¤ò·Ú¤¯»È¤Ã¤Æ¤ß¤ë¡§»È¤¤Êý£¸
https://arakan-pgm-ai.hatenablog.com/entry/2017/09/09/003000
¡¦²á³Ø½¬¤Ï³Ø½¬¤Î¤µ¤»¤¹¤®°Ê³°¤Ë¤â¡¢³Ø½¬¥Ç¡¼¥¿¤¬¾¯¤Ê¤¤¡¢Ê£»¨¤Ê¥Í¥Ã¥È¥ï¡¼¥¯¤¬¹Í¤¨¤é¤ì¤ë
¡¦²á³Ø½¬¤¬µ¯¤¤ë¤È¡¢Ç§¼±ÀºÅÙ(%¡Ë¤¬Íî¤Á¤ë
¡¦¥Ç¡¼¥¿¤òÁý¤ä¤¹¤Î¤¬Îɤ¤¤¬¡¢Áý¤ä¤»¤Ê¤¤¾ì¹ç¤Ï¡ÖDropOut¡×¤È¡ÖBatchNormalizasion¡×¤ò»È¤¦
¡¡DropOut¡§¥Ç¡¼¥¿¤ò´Ö°ú¤¯¡£·×»»¡ÊConvolution¡Ë¤Î¡ÉÁ°¡É¤ËÃÖ¤¯¡£
¡¡´Ö°ú¤¯³ä¹ç¤Ï¡Öp¡×¡£½é´üÃͤÏ0.5¤Ê¤Î¤ÇȾʬ´Ö°ú¤¯
¡¡BatchNormalizasion¡§¥Ð¥éÉÕ¤¤òÊäÀµ¤¹¤ë¡£·×»»¡ÊConvolution¡¢Affine¡Ë¤Î¡É¸å¡É¤ËÃÖ¤¯
¡¦DropOut¤È¡¢BatchNormalizasion¤ò»È¤¦¾ì¹ç¤Ï¡¢MaxEpoch¤òÁý¤ä¤¹
¡¡Áý¤ä¤µ¤Ê¤¤¤È³Ø½¬¤ÎÅÓÃæ¤Ç½ª¤ï¤Ã¤Æ¤·¤Þ¤¦¡ÊÎã¤Ç¤Ï¡¢Epoch¤ò100¢ª700¤ËÊѹ¹¤·¤Æ¤¤¤¿¡Ë
¥ª¥ê¥¸¥Ê¥ë²èÁü¤Ç¿·µ¬¥Ç¡¼¥¿¡¦¥»¥Ã¥È¤òÄɲ乤ë¼ê½ç¡§»È¤¤Êý£¹
https://arakan-pgm-ai.hatenablog.com/entry/2017/09/10/003000
¡¦Excel¥Þ¥¯¥í¤Ë¤è¤ë²èÁü¥Ç¡¼¥¿À¸À®¤È³Ø½¬¤Ë¤Ä¤¤¤Æ¡£´ðËܺ£¤Þ¤Ç¤ÎÆâÍÆ¤Ç¤ï¤«¤ë¤Ï¤º¤À¤¬
¡¦Ratio¡§³Ø½¬ÍѤÈɾ²ÁÍѤﶤêʬ¤±¡£¡Ê¤À¤¤¤¿¤¤¡¢75¤È25¡Ë¹ç·×¤¬100¤Ë¤Ê¤ë¤è¤¦¤Ë¤¹¤ë
¡¦Affine¤ÎOUTPUT¤ò¥Ç¥Õ¥©¥ë¥È¤Î100¤«¤é1¤ËÊѹ¹¤¹¤ë¡Ê¤³¤ì¤ò¤·¤Ê¤¤¤Èɾ²Á¤¬²¼¤¬¤ë¡Ë
²èÁü¥Ç¡¼¥¿¤ò²Ã¹©¤¹¤ë¡ÖImageAugmentation¡×¥ì¥¤¥ä¡¼¤Î½ÐÎÏ¥¤¥á¡¼¥¸¤ò³Îǧ¡¿»È¤¤Êý£±£°
https://arakan-pgm-ai.hatenablog.com/entry/2017/09/17/003000
¡¦²èÁü¤Î¿åÁý¤·¤Ç¡¢ImageAugmentation¤ò»ÈÍѤ¹¤ë
¡¦SquaredError¤ò0
¡¦Max Epoch¤ò0
¡¦ImageAugmentation¤Ç¡¢MinScale¡¡¤ò¡¡1.0¢ª¡¡0.8¡¢MaxScale¤ò1.0¢ª1.5¡¡¤ËÊѹ¹¤¹¤ë¤³¤È¤Ç
¡¡0.8ÇÜ¡Á1.5Çܤδ֤ǥé¥ó¥À¥à¤Ë³ÈÂç½Ì¾®¤¹¤ë
¡¦Â¾¤Ë¤â¡¢Angle¡Ê·¹¤±¤ë¡Ë¡¢FlipLR¡Êº¸±¦È¿Å¾¡Ë¡¢FilpUD¡Ê¾å²¼È¿Å¾¡Ë¡¢Distotion¡Ê¥é¥ó¥À¥à¤ÇÏĤޤ»¤ë¡Ë
CNN¤ÎÀºÅÙ¸þ¾å¡§MeanSubtraction¥ì¥¤¥ä¡¼¤Î¸ú²Ì¤ò»î¤¹¡¿»È¤¤Êý£±£±
https://arakan-pgm-ai.hatenablog.com/entry/2017/09/23/003000
¡¦ÀºÅÙ¤¬¸þ¾å¤¹¤ëÁ°½èÍý¤È¤·¤Æ¡¢MeanSubtraction
¡¦mean.initializerMu¤ò0.2¤ËÀßÄê
¥µ¥ó¥×¥ë¥×¥í¥¸¥§¥¯¥È¡§¥ª¡¼¥È¥¨¥ó¥³¡¼¥À¡ÊAUTO¡²ENCODER¡Ë¤È¤Ï²¿¤À¤í¤¦¡§»È¤¤Êý12
https://arakan-pgm-ai.hatenablog.com/entry/2017/09/24/080000
¡¦Îã¤Ç¤Ï2¼¡¸µ¢ª1¼¡¸µ¢ª2¼¡¸µ¤Ç²èÁü¤¬¤Ï¤Ã¤¤ê¤¹¤ë
¥µ¥ó¥×¥ë¥×¥í¥¸¥§¥¯¥È¡§LeNet¡ÊCNN¤Î¸¶·¿¡Ë¤ò»È¤Ã¤Æ¤ß¤ë¡§»È¤¤Êý13
https://arakan-pgm-ai.hatenablog.com/entry/2017/10/01/080000
¡¦LeNet¡§LeNet-5¡Ê5Áع½Â¤¡Ë¤È¤¤¤¦CNN¤ÎÍ̾¤Ê¿Þ¤Î¥µ¥ó¥×¥ë¡ÊLeNet.sdcproj¡Ë
¡¦Â¾¤Ë¤â¡¢resnet¡Êresnet-152¡§152Áءˤ¬¤¢¤ê¡¢ÀºÅ٤Ϲ⤤¤¬¡¢GPU¤Ç¤Ê¤¤¤Èư¤«¤Ê¤¤¡£CPU¤Ê¤é¡¢LeNet
CNN¤ËBatchNormalization¤òŬÍѤ·¤ÆÇ§¼±ÀºÅÙ¸þ¾å¸ú²Ì¤ò»î¤¹
https://arakan-pgm-ai.hatenablog.com/entry/2017/10/07/080000
¡¦BatchNormalization¤Î¸¡¾Ú
RNN¤Î¼ïÎà¡¿¥µ¥ó¥×¥ë¤Ç¥·¥ó¥×¥ëRNN¤Î¡Öelman_net¡×¤òÂ賤¹¤ë
https://arakan-pgm-ai.hatenablog.com/entry/2017/10/08/080000
¡¦CNN¤Ïº£¡¢¸½ºß
¡¦RNN¤Ï»þ·ÏÎó¤ÎÊѲ½¡Êǯ´Ö¤ÎÊѲ½¤ä¡¢·î¤´¤È¡Ë
¡¦RNN¤Ë¤Ïelman_net¡¢LSTM¡¢GRU¤Î3¤Ä¤¬¤¢¤ë
¡¦elman_net¤Ï¥·¥ó¥×¥ë¤À¤¬¡¢Ä¹»þ´Ö¤Î¥Ç¡¼¥¿¤ÏÉÔ¸þ¤
¡¦LSTM¡¢GRU¤ÏĹ´ü¡¢Ã»´üOK
¡¡LSTM¤Î¤Û¤¦¤¬¥Ñ¥é¥á¡¼¥¿¤¬Â¿¤¯¡¢³Ø½¬»þ´Ö¤¬¤«¤«¤ë¤¬
¡¡¾ì¹ç¤Ë¤è¤Ã¤Æ¤ÏGRU¤è¤ê¥Ñ¥Õ¥©¡¼¥Þ¥ó¥¹¤¬½Ð¤ë¤³¤È¤¬¤¢¤ë
¡¦¥µ¥ó¥×¥ë¥×¥í¥¸¥§¥¯¥È°ìÍ÷¤¬¤¢¤ê
¡Êelman_net¡¢GRU¡¢LSTM¤È¤¤¤¦Ê¸»úÎó¤¬´Þ¤Þ¤ì¤Æ¤¤¤ë¡Ë
¡¦elman_net¤Ï¡¢RecurrentInput¤«¤éReccurentOutput¤Î´Ö¤ò»þ·ÏÎó¥Ç¡¼¥¿¤Î»þ´Ö¼´¤Ç·«¤êÊÖ¤¹
¥·¥ó¥×¥ëRNN¡Öelman_net¡×¤ÇSIN¥«¡¼¥Ö¥È¥ì¡¼¥¹¤ò¤ä¤Ã¤Æ¤ß¤ë
https://arakan-pgm-ai.hatenablog.com/entry/2017/10/17/080000
¢¨²áµî¥Ç¡¼¥¿¤«¤é̤Íèͽ¬¤Ç¤¤ë¤ï¤±¤Ç¤Ï¤Ê¤¤¡¢¤È¤¤¤¦Âç»ö¤Ê¤³¤È¤¬µºÜ¤µ¤ì¤Æ¤¤¤ë
¡¦Sin¤Î´Ø¿ô¤Ç¼Â¬ÃÍ¡Êcsv8¸Ä¡Ë¤òÆþ¤ì¤Æ¡¢Í½Â¬ÃͤòÆþ¤ì¤Æ¤É¤ÎÄøÅÙ¸íº¹¤¬¤¢¤ë¤«¤ò³Îǧ
LSTM¡ÊLong Short-Term Memory¡Ë¥æ¥Ë¥Ã¥È¤ÇSIN¥«¡¼¥Ö¥È¥ì¡¼¥¹
https://arakan-pgm-ai.hatenablog.com/entry/2017/10/25/080000
LSTM¤ÇÇä¾å¤Îͽ¬¤Ã¤Ý¤¤¤³¤È¤ò»î¤ß¤ë»þ¤Î¼ºÇÔÎã
https://arakan-pgm-ai.hatenablog.com/entry/2017/10/29/080000
¤½¤ì¤Ã¤Ý¤¯¤ß¤¿¤¬¡¢Ver¤Î°ã¤¤¤Ë¤è¤ê·ë²Ì¤¬ÊѤï¤Ã¤Æ¤·¤Þ¤Ã¤¿Îã
¸½ºß¥Ç¡¼¥¿¤ò³Ø½¬¤·¤¿¤¢¤È¡¢³Ø½¬·ë²Ì¤Î¥Õ¥¡¥¤¥ë¤òÊ£À½¤·¤Æ¡¢
ºÆÅÙÆÉ¤ßľ¤·¤Æ¡¢CSV¤Î¿ô¤òÁý¤ä¤¹
¡ÊÁ°¤Î¥Ñ¥é¥á¡¼¥¿¤À¤±¤À¤È¡¢²¿²ó¤ä¤Ã¤Æ¤âƱ¤¸É¾²Á¤Ë¤Ê¤ë¤«¤é¡Ë
¡úÆüÊÌÇä¾å¤Îͽ¬¤Ã¤Ý¤¤»ö¤ËºÆ¥Á¥ã¥ì¥ó¥¸¡£CNN¤Ç¤ä¤Ã¤Æ¤ß¤¿¡¿Neural Network Console¤Î»È¤¤Êý
https://arakan-pgm-ai.hatenablog.com/entry/2018/04/04/174823
[¥³¥á¥ó¥È¤¬Â¿¤«¤Ã¤¿½ç¤Îµ»ö]
¡¦¿Í¤Î¿´Íý¤Î΢¤ò¤«¤¯¥Û¡¼¥à¥Ú¡¼¥¸½¸µÒ½Ñ¡§¥ê¥Ô¡¼¥¿¤Ë¤Ê¤Ã¤Æ¤â¤é¤¦¤¿¤á¤Ë¤Ï(233)
¡¦¥Û¡¼¥à¥Ú¡¼¥¸¿´Íý³ØÂè£²ÃÆ¡Ö¥á¡¼¥ë¤Î½ñ¤¤À¤·¤È¥Û¡¼¥à¥Ú¡¼¥¸±¿±Ä¡¦½¸µÒ¤Î´Ø·¸¡×(76)
¡¦Ì¼¤¬À¸¤Þ¤ì¤¿(69)
¡¦¥²¡¼¥à¤È¸À¤¨¤Ð¡¢²¿¤ò»×¤¤½Ð¤¹¡© (50)
¡¦Microsoft¤«¤é¥¢¥¯¥»¥¹ (30)
¡¦¡ÖÌÜɸ¤ÎΩ¤ÆÊý¡×¤È¡ÖÅØÎϡפȡּ¹ÔÎÏ¡×(26)
¥³¥á¥ó¥È¤ò¤É¤¦¤¾¡£Ì¾Á°(¥Ú¥ó¥Í¡¼¥à)¤Ïɬ¿Ü¤Ç¤¹¡£URL¤Ï¥ª¥×¥·¥ç¥ó¤Ç¤¹¡£
ºÇ¶á¤Î¥³¥á¥ó¥È