寛治年間（1087〜94）源義家に従い軍功のあった刈田経元が白石に居を構えたのが始まりというが、詳細は不明。

戦国時代には蘆名氏を滅ぼした伊達政宗の所領となり、家臣の白石氏、屋代氏が城代を務めた。天正十九年（1591）の奥州仕置によって、豊臣秀吉は白石を含む会津を蒲生氏郷に与えた。氏郷は交通の要衝・白石の重要性を考慮し、新たな縄張を行って近世城郭に改修した。慶長三年（1598）氏郷病没後に上杉景勝が会津に入封、甘粕景継を城代に置く。

同五年（1600）の関が原合戦に際して、城代・甘粕景継の不在に乗じて伊達政宗が白石城を包囲し落城した。戦後に再び伊達氏の所領となると、重臣・石川昭光を配し、その後に政宗の信頼篤き功臣・片倉景網が入城。以後、片倉家十一代が城主を務め、「元和の一国一城令」の特例として明治まで存続した。

幕末の慶応四年（1868）奥羽越列藩同盟がこの城で締結され、新政府軍との対決を約した。会津藩・二本松藩などの悲劇はここから始まった。明治七年（1874）に城の建物や石垣が破却されるが、平成七年に木造の復元天守（三層櫓）・大手門が完成。

当信寺（白石市本町）に東口門が移築されている。また、境内には真田幸村の遺児・阿梅（片倉重長の後室）と大八（仙台真田家祖）の墓がある。大坂の陣において最後を悟った幸村が、敵軍として奮戦する片倉重長の人物を見込んで遺児を託したという。