Habe gerade mal gegoogelt und folgendes gefunden:

Mobiltelefone - Die meisten europäischen Mobiltelefone funktionieren in Japan nicht, da es in Japan kein GSM-Netz gibt! Deshalb kann man sein Gerät am besten gleich zuhause lassen. Eine Ausnahme bilden neuerdings die so genannten Mobiltelefone der 3. Generation (Stichwort "UMTS"), wobei man die hohen "Roaming"-Gebühren berücksichtigen sollte. Bei einem längeren Aufenthalt kann ein UMTS-fähiges Handy mit einer japanischen Prepaid Sim-Karte ausgestattet werden. Diese wird allerdings bei einem Aufenthalt von mindestens drei Monaten ausgegeben. Als Nachweis muss hierfür eine "Residents Card" vorgelegt werden. Für alle, die nur kurz im Land sind und auf ein Mobiltelefon nicht verzichten können, besteht die Möglichkeit bereits am Flughafen ein Gerät zu mieten, allerdings zu astronomischen Preisen. Wenn man länger unterwegs ist, kann man z.B. über den Erwerb eines Prepaid-Gerätes nachdenken, wobei man dafür oft eine "Alien Registration Card" vorweisen muss.

Quelle: http://wikitravel.org/de/Japan