二戰時期，日本的軍隊中有一個奇怪的現象，那就是海軍和陸軍水火不容互相拆臺。從戰爭開始到結束兩個軍種一直在明爭暗鬥，以至於有人說，日本海軍用70%的力量對付日本陸軍，用30%的力量對付美國。
日軍這兩個軍種的矛盾一直不可調合，以至於出現了一些軍事史上的奇葩現象。比如太平洋戰爭中期，日本陸軍意識到必須增強補給能力才能支持前線作戰，當時潛艇運輸比船隻運輸較為安全可靠。
但日本陸軍在借用海軍裝備調運人員和裝備的時候經常遭到後者嘲笑，於是日本陸軍“很有志氣地”下定決心，自己動手造潛艇，為了避免海軍干擾，該潛艇的設計和建造過程全程對海軍保密。
1943年，日本陸軍參謀本部開始了“由”字潛艇的祕密研發工作。負責這一研發任務的鹽見少佐和中村大尉對“由”潛艇的技術可行性先期展開基礎調查，一個月後他們向參謀本部提交了設計概要文件。
但這份文件中的潛艇數據並不好看，卻遵循了陸軍高層提出的“操作簡單、性能一般”的基本方針。這款“由”字潛艇速度達到5節即可，裝載容量10立方米，以糧食計算約為24噸，相當於2萬士兵一天的口糧。
日本陸軍同意了這款潛艇的設計，並計劃建造400艘。但建造過程卻不容易，當時日本所有的造船廠都在還海軍的監督之下，並且所有的造船廠都承擔著海軍艦艇的建造工作或者是修理任務，完全空不出船渠讓陸軍使用，況且陸軍也沒想要海軍知道。
陸軍高層們在經過激烈地討論之後，最終選擇了一家和艦船製造有關的低風險廠家，專門製造機車和鍋爐的廠家來生產潛艇，這確實有些無奈，也埋下了“由”字潛艇質量差的隱患。
當然紙是包不住火的，在計劃開始實施幾個月後，日本海軍已經覺察到了陸軍的“異動”，因為擔心陸軍的潛艇計劃會動搖自己在海上的地位，因此對其進行“規勸”，發現無果後曾表示願給予協助，但自大的日本陸軍肯定是不願吃“嗟來之食”。
當時一艘普通潛艇建造出來至少要一年多，但陸軍的這款“由”字潛艇只僅僅花了11個月便建造完成，而建造週期也只有3個月。要駕駛這些潛艇當然要培養艇員，日本陸軍也沒找海軍要人，而是從坦克部隊等技術兵種抽調人接受3個月的速成訓練，大概召集了3000人。
第一艘“由”字潛艇在1943年10月30日終於竣工，同年12月10日在山口縣柳井灣進行試潛，首艦完工時日本陸軍還特意邀請海軍來參觀，意在炫耀沒有海軍幫助，自己也能造潛艇。
但這次試潛頗有意思，由於新潛艇吃水線調節失敗，潛艇下潛時不是艦艏浮就是艦尾浮，潛艇橫豎就是下不到水裡去，這確實讓海軍那些老油條們算見識了一下新鮮。
後來在幾次不靠譜的調試下，“由”字潛艇總算是沉了下去，不過是以完全停止運作的姿態。陸軍官兵還以為終於潛下去了，便在海岸上大聲歡呼，不過在海軍眼裡，這潛艇是已經沉在海底了，不過還好船員事後都救了出來，不幸中的萬幸。
這樣的潛艇質量讓人擔憂，但好強的日本陸軍還是決定派出去執行任務。1944年5月日本陸軍派遣由一艘潛艇母艦、3艘“由”字潛艇和301名艇員組成的運輸船隊出征萊特灣。然而，在奔赴馬尼拉的途中，粗製濫造的“由”字潛艇就故障不斷。
好不容易於7月18日進入馬尼拉港，可所有的“由”字潛艇都需要大修了。但這批修理過的潛艇不久後也遭遇了滅頂之災：一號艇為規避美軍空襲緊急下潛失敗沉沒，二號和三號艇也被美軍戰艦擊沉。“由”字潛艇首次出擊，就悲慘的全軍覆沒了。
日本陸軍原本打算造400艘的潛艇，但直到戰爭結束時，也僅有39艘勉強建成，其中5艘被擊沉。有些史料還記載陸軍曾有過改進此款潛艇的計劃，不過還並沒有建造戰爭便結束了。“由”字潛艇作為曇花一現的武器，也成了陸軍和海軍之間的笑話之一。