永久二年（1114）、千葉常兼の子・常康が印旛郡臼井郷に居館を構え、臼井氏を称したのが始まり。暦応元年（1338）足利尊氏に従った中興の祖・臼井興胤の代に城の基礎が築かれ、現在の遺構は康生元年（1455）以降に教胤が築いたものである。

室町時代中期に臼井氏は古河公方・足利氏と関東管領・上杉氏の争いに巻き込まれ、文明十一年（1479）に臼井持胤・俊胤父子、千葉孝胤の守る臼井城を太田道灌の弟・資忠と千葉自胤が攻囲。城は落ちたものの資忠は戦死してしまう。後に城は千葉孝胤に奪還された。

印旛沼の対岸にある師戸城とは「渡（わたし）」で連絡され、臼井城の防御に大きな役割を果たしたと考えられる。

戦国時代には幼主・久胤に代わって一族の原胤貞が後見役として実質上の城主となる。永禄四年（1561）の安房里見氏の正木時茂の軍勢の前に一旦落城するも、後に胤貞により奪還。永禄九年（1566）に関東に出陣した上杉謙信と里見連合軍に攻囲されるが落城寸前で撃退する。天正十八年（1590）小田原征伐の際に原氏は北条方として小田原城に籠城したため、臼井城は徳川軍により落城。その後、徳川家臣・酒井家次が4万石で入城したが、慶長九年（1604）に酒井氏が上野国高崎に転封となり廃城。

遺構はよく残っており、二の丸を廻る空堀・土塁は壮大。上杉軍を撃退した城の堅固さの一端が垣間見れる。