こんにちは。
ココログのファイルアップロードは拡張子による制限はありませんので、aviファイル自体はアップロードできるはずです。
アップロード方法は下記のとおりです。
■画像以外のファイルをアップロードしたい
http://cocolog.kaiketsu.nifty.com/faqs/17309/threadただし、現在ココログに直接アップロードできるファイル容量は1MB以下となっています。
エラーが出るとしたら容量がオーバーしているのではないでしょうか。
■ファイルアップロード時にエラー画面が出る
http://cocolog.kaiketsu.nifty.com/faqs/17021/threadファイルサイズが1MB以上あるのであれば、ファイルサイズを小さくするか、ファイルは外部の動画アップロードサイトに置いてココログには呼び出しタグを貼るという形になると思います。