番市西面大约10公里的亚尔乃孜沟中，坐落着古代西域三十六国之一的车师前国的国都——
交河故城。1961年，经国务院公布，列为全国重点文物保护单位。 交河故城亚尔乃孜沟是远古时代由于洪水冲刷而形成的一道河谷。经过数千万年的冲蚀，大自然以它巨大的创造力，在河谷中央留存下一个平面呈柳叶形的河心洲，长1650米，最宽处约300米。四周崖岸壁立，被一道100米宽，约30米深的河谷所环绕，形成了天然屏障。远在3000年前，原始居民为避免野兽的侵害和防备部落间的战争，便选择在这个河心洲上建造自己的家园。他们在坚硬的黄土层中掏挖出洞室居住，开凿出通往河谷底部的通道，到河谷中取水和从事生产活动。当时他们使用的刮削器、尖状器、石核、石片等石器和红色彩陶片等，至今在地面上仍然可以采集到一些遗物。据《史记》所载，这些早期的土著居民属于我国古代西北兄弟民族姑师人。 姑师人在战国时期已进入阶级社会，其活动遍及今
新疆东部地区。这个河心洲当是其重要据点之一。汉武帝元封三年(公元前108年)姑师为赵破奴所破，遂分为车师前后王及山北六国。《汉书•西域传》云：“车师前国，王治交河城。河水分流绕城下，故号交河。”这说明了“交河”一名的由来，也说明了这个河心洲是2000多年前的车师前国的都城所在地。
公元448年车师前部王车伊洛，带兵随北魏万度归平西域，西征焉耆，留子车歇守交河。盘踞在盆地东部高昌城的北凉残余势力沮渠安周，乘虚引柔然兵袭击交河。车歇固守不住，450年西奔焉耆投伊洛，车师前国至此覆灭。根据附近南北朝时期的墓葬中出土的墓志的记载，此后至唐初，这里为高昌国的交河郡治所。
唐太宗于贞观十四年(640年)派侯君集平高昌，在此设交河县，属西州管辖；西域最高军政机构——安西都护府最早也设在这里(640～658年)，成为唐王朝进步统一广大西域地区的大本营。后来随着管辖范围的不断扩大，都护府才西迁到龟兹(今库车)。盛唐诗人李颀曾形象地描述过这里的戎马生涯，写下了“白日登山望烽火，黄昏饮马傍交河”的诗句。8世纪中叶至9世纪中叶，这里曾为吐蕃所陷。以后，交河城又为回鹘高昌国属地，设交河州。由于空间狭小，限制了发展，城池遂渐渐衰落。 13世纪末，
天山北面的西北蒙古游牧贵族海都、都哇发动叛乱，多次侵犯元朝控制下的地区，交河城毁于这次兵燹之中。后人在故城发现的古代文书中，没有见到元末以后当地开始流行的察合台文以及更晚的老维吾尔文；挖掘出来的钱币、方砖、陶瓷片等遗物中，也不见有元代以后的东西。明初永乐年间，吏部员外郎陈诚出使西域，曾到过此地，留下了《崖儿城》诗一首：“沙河二水自交流，天设危城水上头。断壁悬崖多险要，荒台废址几春秋。”由此可见，当时这里已经是废墟一片，人们都不知其废弃于何年何月。现今当地群众已很少使用“交河”之名，而习惯称之为“雅尔和图”、“雅尔湖”。其实“雅尔”就是汉名“崖儿”辗转之音译，“和图”是蒙语“城”的意思，“湖”是“和图”的音变，合之仍为“崖儿城”，是交河城于元末废弃后新兴起的名称。 现在看到的交河故城是其鼎盛时期的规模，大体为唐代的遗存。台地西北部是一片唐以前的古墓地，已被盗掘、破坏殆尽。建筑物集中在台地东南部约1000米的范围内，其东、南两面各有一个城门。建筑形式除没有城墙外，还有一个明显的特征，即大部分建筑物包括宽大的街道，都是从原生土中掏挖出来的。窑洞是在原生土中直接掏出，平房则多是切挖原生土留出四壁，然后用木头搭顶。从残留的柱洞看，有不少是多层建筑。有的下部是窑洞，上部是平房。板夹泥垛墙建筑物只占少数。有的下部是生土墙，上部是板夹泥垛墙。城内布局可以分为三部分：贯穿南北的一条大街把居住区分为东、西两部分，大街北端则是一座规模宏大的寺院，以它为中心构成了北部寺院区。 东区南部有一所气势宏伟的宅院，占地3000多平方米，地下地上双层建筑，有宽大的阶梯通道可以上下。在宽厚高大的围墙外面是城内唯一的一处广场。根据考察分析，这个宅院当为唐初所建，可能是安西都护府的治所，后为天山县的官署衙门。西区分布有许多手工业作坊，发现的儿处陶窑遗址膛壁，经烈火焚烧，已完全变成灰色。大街北端的寺院平面呈长方形，占地约5000平方米，由山门、大殿、僧房、庭院、水井等组成。根据建筑特征和残存的泥塑佛像分析，应为南北朝时期的建筑。院内曾发现唐代莲花纹瓦当，说明唐时曾经重修。城北还有一组壮观的塔群，中央是一座
大佛塔，上部原有塑像，现已无存。四角各25个小塔，排列成纵横各五的方阵，总计101个。城中大街两旁尽是高厚的围墙，临街不见一个门窗。纵横连接的街巷把建筑群分割为若干小区，颇似内地宋代以前城市的坊、曲。这种建筑布局足以说明，交河城在唐代曾经进行过一次有规划的重修改建，而唐代以前的旧城痕迹则早已面目全非了。 由于当地气候极为干燥，城址又远离水源，无法开垦耕种，因而城内的官署衙门、寺院佛塔、坊曲街道等建筑物遗址得以完好地保存下来。如今游人至此，仍可以走街串巷，穿堂人室。像这样历史悠久、保存完整的古城遗址，在国内可以说是首屈一指的。
