Những người cao niên kể lại, bánh khảo có nguồn gốc từ người Hoa. Vào dịp Tết Nguyên đán, bánh khảo được làm nhiều nhất. Người Tày dùng bánh khảo thay kẹo. Bánh khảo ngày nay đã từ chợ Trung Hòe, chợ Trùng Khánh phát triển ra tận thị xã Cao Bằng. Nguyên liệu làm bánh từ gạo nếp. Gạo sau khi vo, để khô, cho vào rang và xay bằng cối đá (xay khô) đến khi bột mịn. Lấy giấy bản lót vào thúng, đổ bột và “hạ thổ”.
Để qua một đêm cho bột ỉu, lấy đường phên giã nhỏ hòa vào nước đổ vào bột, nhào cho đến khi bột dính vào khuôn ép.
Nhân bánh có 2 loại: nhân vừng và mật và có loại có thêm thịt mỡ thái mỏng.
Cách làm bánh rất đơn giản. Đổ bột vào khuôn, dùng lông gà rắc lên một lớp bột sống. Với loại nhân thịt mỡ thì thịt phải được làm chín. Sau đó đổ một lớp bột lên trên. Dùng bàn ép ép chặt, lấy dao chia bánh theo độ dài rộng. Động tác khóa chia bánh phải làm ngay khi ép bột bởi nếu để lâu bột sẽ khô, khó cắt. Đợi bánh nguội khoảng 2 giờ, thì gói bánh bằng giấy bản (giấy thủ công, dễ thấm, màu trắng) hoặc bằng bằng giấy làm vàng mã với đủ các màu rực rỡ xanh, đỏ, tím, vàng.
Trên tờ giấy hình vuông, bánh đặt chéo thành 4 hình tam giác gấp vào, dùng hồ dán (bột làm bánh) dính 4 đỉnh của tam giác lại. Chiếc bánh khảo được khoác áo vuông đẹp mắt.
Bánh khảo hương hồi là niềm tự hào của đặc sản Cao Bằng.