1945年8月15日，日本宣佈無條件投降。加藤政三於當年10月從上海回國，接曹石堂到東京。曹石堂入讀東京都立第一商業高等學校，每逢周日，他便和養父一起挑糞、種菜。儘管加藤一家對他很好，他仍時常為自己在養父家中白吃白住心懷不安。半年後一個偶然機會，他結識了當時的中華民國東京留日同學會主席李樹本，李樹本小他四五歲，聽了他的身世和處境後十分同情，當即前去說服加藤，讓曹石堂搬進同學會，與他同住。
1949年10月，新中國成立的消息傳到日本，當地華僑青年紛紛開始為回國做準備，曹石堂對家鄉的思念也日益深切。
1950年，曹石堂已中學畢業，他將麥克.阿瑟將軍為偶像，填寫好簡歷照片，委託一位回國華僑代他報名大連一所海軍學院。半年後，回信說海軍學院實行保送制，學員需是黨員或團員，暫不招收海外華僑。
曹石堂又報考了麥克阿瑟的母校美國西點軍校。西點軍校回信說：因為你是中國人，需要由中國政府保送才能入校。曹石堂明白，當時中美尚未建交，來信所說「中國政府」指的是台灣的國民黨政府。
1951年初夏，曹石堂參加日本華僑青年旅遊團赴台。一位50來歲男子來到他們駐地，指名要見曹石堂。此人名叫姚鳳岐，是沁縣老鄉，曾擔任過閻錫山政府的督察長，他看到報紙上旅遊團的合影，曹石堂名字下面寫着「山西」，特意來認老鄉。攀談中，曹石堂提出想見一見閻錫山，姚鳳岐答應幫他聯繫。
出現在曹石堂面前的閻錫山，四方臉、長壽眉，身着便服，帶着黑框眼鏡，說話很是和氣。66歲的閻錫山已經辭去「行政院長」一職，半隱居在台北市郊菁山草堂著書立說。曹石堂以蹩腳的漢語夾雜日語向閻講述他報考西點軍校的想法。閻錫山聽罷，出乎意料地說道：「你去哪兒幹什麼？我也是日本士官學校畢業的，現在有什麼用？我反對你去！世界上並不是每天都在打仗，還是和平的時候多嘛！你想報國是好事，咱們山西有煤有鐵，你回日本學習工業、醫學、經濟，都一樣可以報國嘛！讀書如果有困難，我可以幫助你！」曹石堂告辭出門，又被姚鳳岐喊住，告訴他：「稍等一下，閻長官要送你一點錢。」不一會兒，他拿來500元新台幣交給曹石堂。
返回日本後，曹石堂思來想去，決定改考養父加藤的母校立教大學。次年，他如願以償考取立教大學經濟系專業，給閻錫山寫信告知此事。不久收到閻錫山用毛筆寫來的回信，另附一年的學費15000日元。
曹石堂入讀立教大學時，正值日本華僑青年掀起回國熱潮，時常有人作報告，介紹新中國的情況，曹石堂聽得心潮澎湃。大二沒讀完，他向加藤夫婦提出回國的願望。加藤見他態度堅決，最終點頭同意了。
因為曹石堂的特殊身份，他回國的消息受到日本多家媒體關注。《讀賣新聞》大標題：「『兵隊太郎』後日物語」，副標題：「和日本軍隊朝夕相處5年，留學日本10年，長大成人的中國孤兒以感激的心情返回新中國。」一夜之間，「兵隊太郎」曹石堂成了日本婦孺皆知的新聞人物。
曹石堂（中）與家人
毛澤東翻譯是他前妻
1953年10月，曹石堂回到祖國，進入北京市華僑事務委員會開辦的華僑學校補習兩年中文。期間結識了他的第一任妻子，越南歸國華僑黎善莊。黎善莊父親祖籍廣東梅縣，早年留學法國，後在越南河內經商。1954年越南抗法戰爭末期，他攜全家返回祖國。黎善莊不僅人長得漂亮，而且精通漢語、法語和越語，還寫得一手好文章。進入華僑學校後，她很快成了公認的「校花」。兩人戀愛後，1957年喜結良緣。
曹石堂從華僑學校畢業，分配到國家一機部技術情報研究室從事科技資料翻譯工作，黎善莊考入南開大學繼續深造。1959年1月，他們的小女兒出生了。
上世紀50年代末，曹石堂所在技術情報研究室擁有的主要日文資料，只有《日刊工業新聞》和《機械技術》。當時國家對進口報刊審查手續比較複雜，到達曹石堂手中的《日刊工業新聞》，常常是半年以前的，情報價值大打折扣。曹石堂十分着急，心中暗想，情報資料如此陳舊，長此下去，要到哪年哪月才能做到毛主席號召的「超英趕美」？他索性給日刊工業新聞社去了一封信，希望他們在每期報紙面世後，第一時間直接寄給他本人。作為交換，他可以向對方提供一些相關內容的中國雜誌，對方同意了。從此，曹石堂便從微薄的工資中拿出一部分來，用於資料交換的郵資，與日刊工業新聞社保持着密切往來。誰知卻埋下了隱患。
1958年，我國自行設計生產的東風牌、紅旗牌小轎車在北京市展覽館展出，曹石堂激動不已。他相信，如果及時將這一消息報道出去，定會讓美、日等國對新中國刮目相看。他連夜用日文趕寫了一篇文章《新中國汽車工業的發展現狀》，投向《日刊工業新聞》，很快在頭版刊發，之後又陸續被一些海外媒體轉載。
1959年9月27日，曹石堂接到妻子黎善莊從南開大學來信，說她29日放假後與父女團聚。當天夜裏兩點多鐘，沉睡的曹石堂被敲門聲驚醒，他打開房門，一副冰冷的手銬戴在他手上。
