日本宪法没有规定哪个城市是首都，但东京实际上扮演着日本首都的角色。日本现行法律不仅没有明确哪个城市是首都，实际上日本首都的位置自古以来就是一笔糊涂账——在古代日本，天皇的所在地就是首都，意思是天皇朝廷的迁移就是迁都，从而形成了日本古代的藤原、平城井、长冈井、平安井。公元794年(后延13年)，桓武天皇从旧都长冈井迁都平安井(今京都)。从此，日本的首都就固定在这里，以至于“京都”一词成了这个城市在日语中的专有名词。
185年元来王朝建立镰仓幕府后，情况变得复杂起来:此后的近700年间，日本名义上的最高统治者仍是京都天皇，但实际掌管国家军政大权的是幕府将军。自元来王朝开创幕府制度以来，日本经历了镰仓幕府、室町幕府、江户幕府三代幕府政权。其中，除室町幕府和朝廷位于京都外，镰仓幕府和江户幕府不在京都。由于天皇名义上是日本的最高统治者，从理论上讲，幕府时代日本的首都仍是天皇所在的京都，但幕府所在地才是实际的政治中心。江户市是日本历史上最后一个幕府的所在地，是现在东京市的前身。
据说江户城最初是由镰仓幕府时代一个叫江户太郎重男的武士开发的。此后，江户的后裔在这里生活了300年，直到室町幕府时代，一位名叫太田道观的武士将他们赶出了江户城。太田道观在管理江户城的30年间，最初是从一个小村庄发展成为集镇。但太田道观被当时的日本关东领主上善所杀，上善被北岛灭，将江户城的大部分居民迁到了北岛主城小田原市。经过这一系列的变化，江户市急剧衰落成一个长满野草的渔村，旧市场再次消失。
1590年7月，在日本战国之乱中崛起，即将统一全日本的丰臣秀吉，率兵攻打北岛家的小田原城。后来，江户幕府的创始人德川家康也随他一起派遣了军队。据说有一天，他们两人一起在战场上巡逻时，秀吉在山脚下指着现在的北方领土对康佳说:“北方领土的灭亡迫在眉睫。我打算用北方领土下的关东八州和你现在的领土交换。”康答道:“好吧，我们一起小便，作为契约的见证。”于是他们转向敌营，像顽童一样撒尿。然后秀吉又问:“你进了关东以后，在小田原安排住处了吗？”康答道:“目前放眼关东，城内似乎没有比这里更好的住处了。”秀吉说:“听说武藏有个地方叫江户。地形不错。作为一个城市生活在那里怎么样？”康佳回答说:“听起来不错。”
《关霸州古战记》一书对此事的评价是:“这真是决定关东命运的尿！”表面上看似高兴的事，其实隐藏在秀吉的政治战术背后:以前康佳的版图是东海五州，现在秀吉却把关东八州呈现给康佳。表面上看，领土扩大了，但这意味着康佳不得不放弃他祖上的三河和他后来开发的东海道其余四州。退一步说，即使进入关东，由北田家族经营多年的小田原市也比当时还默默无闻的江户更适合作为居住城市。丰臣秀吉之所以要利用关东八州与康佳原有领土互动，坚持“建议”康佳将驻地设在江户，实际上是希望康佳在新的领土上花费金钱和精力，从而削弱德川家族的实力。
老谋深算的康佳自然识破了丰臣秀吉的企图，但他并没有僵硬地抵制丰臣秀吉的“建议”——这主要是因为丰臣秀吉与康佳的微妙关系:丰臣秀吉已经在很大程度上统一了除即将被征服的北条之外的全日本，但康佳是丰臣秀吉在统一日本的道路上唯一曾经击败过的强劲对手。此时，丰臣秀吉运用政治策略成功地孤立了康佳，但他并不确定自己有绝对的实力彻底击败康佳。虽然康佳打败了秀吉，但如果他必须与即将统一日本的秀吉作战，康佳本人也不能保证他会赢。在这种情况下，实际上双方都害怕对方——也许秀吉只是试了试康佳，但没打算用它。然而，令他惊讶的是，康佳仅仅一个月就正式进入江户。
天正十八年(公元1590年)，康佳正式入驻江户，从此江户城以8月1日为节日庆典，直至德川幕府倒台。江户市虽然叫成成，但实际上除了附近的农民和渔民，这里几乎没有人居住，几乎是一片未开发的沼泽地。面对这种情况，康任命为他在关东的代理官员(相当于民政官)，负责江户的全面改造。这一举措遭到了老大臣本多正的反对——理由是他在东海五州任命了几名代理官员，但在关东八州只任命了一名伊奈忠次。他真的有能力做这么多事情吗？然而，康佳的态度很坚定。事后证明，重用伊奈忠次改造关东是康佳最成功的用人案例之一。
伊奈忠次是三河国赞都县城主乃忠家的长子，后来成为德川家康的贴身侍从。被康佳委以改造关东重任的伊娜娜可分流了音川的水流。他在河堤上筑坝、铺路、挖渠、架桥，同时扩大耕地面积，从而大大增加了康佳境内的收成。伊奈忠次积极鼓励种植桑、麻等作物和兴修水利，使关东八州日益富裕。茨城县的特产结城细编(柳条细编)被伊奈忠次按其绞丝编织予以奖励，从而大大提高了当地农民的生存积极性。他还改革和完善了江户的财政和税收制度。同时，他开始制定一系列适应江户发展需要的法律草案，严厉打击违法行为。他还领导了对关东土地的清理和测量，为德川幕府未来的农业政策定下了基调。
随着康佳把家臣和家眷迁入江户城，原本不大的江户人口大幅增加，对食物和饮用水的需求自然增加，如何引水进入江户成为亟待解决的问题，于是康佳派懂土木工程的大久保忠行负责引水工程。钟环顾四周，认为井口的水质最好，于是沿高田马场经殿桥至文京区的ad筑堤，再用木水槽引江户一带的水。这就是名为“神田上水”的项目。水箱总长64.8公里，在经过的地方打了4000眼井，用来储存饮用水和消防用水。该工程耗时21年，耗资7.2万元。后来，通过从玉川玉村引水，在新宿御花园古耜冲户挖掘了一条50公里长的水道。由于该项目由玉川村的Shoemon和Seiemon兄弟负责，因此被称为“玉川上水”。据说项目后期资金不足，所以玉川兄弟为了项目卖掉了自己的房产。
迁入江户后，康佳得到了一个意外的收获:伊豆半岛银山的发掘对于德川政权的发展无疑是一笔极其宝贵的财富。伊豆的阴山和萨都的金山都是大久保长安管理的:大久保长安早年在武田信玄做官，当时参与武田家的矿山开发、土木建设、土地勘测等工作。武田家被信田家灭后，投靠了德川家，娶了德川忠邻大久保的女儿。之后改姓大久保。清朝八年，长安被任命为石坚银山和左都金山，从而掌握了德川家族的经济命脉。由于他对矿山的良好管理，极大地丰富了德川家族的财政，他被任命为石见寿。
另一方面，康佳还命令本·郑多·辛和青山忠成等人对城市进行修复:从高地上挖地，平整水池——首先，从樱田门外的壕沟中挖出的土地被开垦出来，使日比谷成为市区。原先由德川家族统治的三河、和君、沅江、甲斐、农心等地的人们纷纷来到江户。至此，江户的城市建设工程顺利完成，人口开始日益繁盛。之后，经过江户幕府200多年的治理，江户城发展成为日本事实上的政治、经济、文化中心:到幕府末期，江户人口已经超过100万，是日本西南萨摩藩总人口的15倍，甚至可以与大英帝国鼎盛时期的伦敦和东亚传统强国中国的北京相提并论。相比之下，天皇所在的京都的发展却远远落后:天皇甚至在皇宫里没有饭吃，需要卖字画为生。一般宫里的宫女都是靠卖身为生的。
但是，无论京都有多尴尬，它总是以继承皇室的荣耀为荣。由于朝廷在日本精神领域的统治地位，江户成为日本事实上的政治、经济、文化中心，但始终无法取代京都在国家精神领域的地位。在这样的形势下，京都的帝国官员养成了一种妄自尊大、墨守成规的作风。直到幕府时代末期，维新势力发布了理发、更衣、禁止染牙等文明命令后，京都的官员们依然坚持自己的传统习俗，使得实际上已经掌握了日本政权的维新势力把京都当成了守旧势力的据点。维新派认为，如果天皇被守旧势力包围，与民众隔绝，将不利于改革事业的推进，于是在他们的推动下，朝廷于1868年7月17日颁布法令，将江户改名为东京(东方的首都)。就在明治天皇即将启程前往东京之际，日本最古老的神道圣地伊势神宫前的手表在平静的状态下突然倒塌，立即被京都的保守派官员视为不祥之兆，大闹一场。但这并没有打消维新派迁都东京的决心:1869年5月9日，明治天皇及其家人和随行人员带着3000多人的队伍抵达东京，江户幕府的将军官邸随即被改造成了明治天皇的御所。
日本皇室从京都迁至东京后，日本政府的各大职能部门也相继迁至东京。至此，东京成为日本事实上的首都。但明治政府只是在圣旨中宣布将江户改名为东京，并没有公开宣布迁至东京。事实上，虽然日本皇室和政府部门确实迁到了东京，但东京作为首都的地位一直没有明确界定。《基本建设法》是二战日本战败后美国占领时期制定的。言外之意是，这个法律适用的城市是日本的首都。然而，由于美国军队的干涉，这一法律于1956年被废除。同时废除了《首都建设法》，取而代之的是《首都圈维持法》，将东京及其周边地区定义为日本政治、经济、文化等领域的“首都圈”。但是这个圈子里谁是领导，法律上没有明确的规定。虽然大家都知道这个首都圈的领导只能是东京，但是法律依据上确实没有明确指出东京是日本首都的规定。如果非要在法律层面上咀嚼某人的话，那么目前日本的首都其实并不是一个城市，而是一个由城市群组成的都市圈，而东京其实在这个圈子里起着核心作用。
