통상적인 방법입니다.

$cnt = mysql_num_rows(mysql_query('select A분류 from 테이블명')); // A분류의 갯수 파악

if($cnt ==10){ // 10개가 되면 메세지 출력

<script> alert("10명 등록완료"); </scripts>

}

이런식으로 만드시면 될 듯 합니다.

실제로는 등록시점에서 판단을 해야할거예요

그럴려면 결국 document.controller.php 에서  실제 글이 등록되는 시점에 확인을 해야할테니
Core 를 고치거나,  trigger 를 이용하는  간단한 모듈을 하나 만드셔야겠죠

조금 더 잘 만들려면,  쓰기버튼 누른시점에 맞춰 카테고리 별 등록글 수 이용해 select 를 박도록 처리해두면 더 좋고요

더 잘 만들려면.. 결국 카테고리마다 제한 개수를 다르게 설정할 수 있어야 더 좋을테니..
결국은 모듈기반으로 해서 구현하는게 좋긴합니다.

정확도를 어디까지 줄거냐 차이죠. ( 민감한 사이트의 경우는 중요한 사항이 될 수도 있으니 )
그럴려면 외주를 주는게 더 좋을 수도 있겠네요