とりあえず、この手のトラブルの場合はエラーメッセージの内容に手がかりがないか、探してみましょう。AppleのサポートサイトにあるTech Info Libraryで検索をかけてみると、system error-37の内容が分かるはずです。これが正しくトラブルの原因を示しているとは限りませんが、問題点を探る手がかりにはなります。
また、「ファイル形式に問題があります」ということは、ファイルに問題があるか、そのファイルをIllustratorが解釈する過程のどこかに問題がある可能性があります。「system error」も含まれている、ということは、OSからIllustratorへファイルを受け渡す部分で問題が起きているのではないかと想像されます。そこに関わる部分を変更することで、問題を回避できるかもしれません。
＞終了もされません
というのがどういう状況なのか、よく分かりませんが…。

ひょっとして、Windowsで作られたデータを開こうとしていませんか？
そういえば、開こうとしているファイルはどんなファイルで、どんな名前がついているんでしょうね？　その辺りも気になります。
私もそれほど詳しいわけではありませんが、その辺りが分かれば、もう少し(^^;)アドバイスできるかもしれません。

それと、こういうところで質問する時にはOS&ソフトのバージョンを正しく把握しましょう。
G5はOSのバージョン名ではなく、ハードウェアの名前です。
アップルメニューから“このMacについて”を選んで、出てきたダイアログでOSXのバージョン名を最後まで確認しましょう（10.3.5とか）。
ソフトについても、最後の桁まで書く必要があります（10.0.3ですか？）。
ご注意を(^^)。

ご丁寧な返信ありがとうございます(^ ^)
説明不足な所がありました。私の使用しているOS＆ソフトは
●Mac OSX 10.3.8
●Adobe illustrator10　です。
指示されたようにTech Info Libraryで検索した所、「ファイル名が不正、最終バージョンのシステムには不正な名前は存在しないでしょう！」と出ました。
「Adobe PDFファイル形式に問題があります」との関連性がよく分かりません・・・。その時、特にPDFで保存しようとも、閲覧しようともしてなかったのですが・・・。何か意味があるのでしょうか？

＞終了しません
と言うのは、強制終了しないと終了出来ないと言うことです。いじっていたファイルもWindowsファイルではないです。
一つ、もしかしてこれも関係あるかな？と思うのは、先日ターゲットモードでMacを移行したのですが、その際、物凄く移行先のMacの調子が不安定(ソフトが壊れた・プレビューの際、一瞬画面が消える等)が続いてました。今は、少し落ちついてはいるんですが、それも関係あるのかな～と・・・。
説明に不足している点がありましたら、ドンドン指摘して下さい(^ ^;

Adobeサポートデータベースで検索しましょう。
製品名はIllustrator、バージョンを10として、質問を文章や単語で入力してくださいのところに『Adobe PDFファイル形式に問題があります』と入れて検索して、結果を片っ端からみてください。

Adobeサポートデータベース
http://support.adobe.co.jp/faq/faq/tfaqindex.sv

すみません、えらそうにアドバイスしていながら、肝心なことを確認していませんでした。
問題のメッセージが出たとき、コーコさんがしていた作業はどんな作業だったのでしょうか？
私は勝手に何かのファイルを開こうとしてメッセージが出た、という状況だと思い込んでいたのですが、ひょっとすると違うのでしょうか？　問題が起きたときに自分が何をしていたのか（どんな操作をしていたのか）という情報は、トラブルシューティングの上で非常に重要なポイントになることが多いのです。ここを確認しないでアドバイスしようとしていたとは、修行が足りませんでした。申し訳ありませんm(_ _)m。

で、「ファイル形式に問題」と「System Error-37」の関係は、不正なファイル名のついたファイルを開こうとして、ファイル形式の判定に失敗したIllustratorがそういうメッセージを出したのかと想像していたのですが、そのときコーコさんのしていた作業が違う作業だったとすると、的を外していた可能性もあります。全く申し訳ないです。

))物凄く移行先のMacの調子が不安定

あー、てことは、HDDの方に問題があって、Illustratorがファイルの保存に失敗しているのかもしれません。問題のメッセージが出たのは、開いているAIファイルを保存しようとしたときではありませんか？　他のアプリケーションでも、ファイルの保存に失敗したりしませんか？　すぐにデータのバックアップを取って、DiskUtilityやAppleHardwareTestのCDなどでHDDの検証・修復をお勧めします。
できればHDDをフォーマットしなおして、OSから再インストールした方が良いでしょう。

あと情報としては、搭載しているメモリ量と、HDDの空き容量なんかが気になります。それと、Illustratorの詳しいバージョンも。
まぁ、そのあたりはあまり関係ないとは思うのですが。

こさか様・ふぁんてーる様。参考になるアドバイスありがとうございます。
★こさか様へ★
最初に、こさか様のアドバイスを受け、Adobeサポートデータベースを拝見させていただきました。
今回のエラーについての解決法は見当たらなかったです。見つけられなかっただけかもしれませんが(^^;　
けどこの問題以外でも本当に勉強になりました。本当にありがとうございます!!!
★ふぁんてーる様へ★
ふぁんてーる様の言う通り、illustratorを保存する時と、illustratorからPhotoshopへ、切り替える時に「ファイル形式に問題」と「System Error-37」の表示が出ます。illustratorからPhotoshopに切り替える時、illustratorのエラーと一緒に、Photoshopから「プログラムエラー」となり、Photoshopファイルが開けないと言う現象が起きるんです・・・。
だんだん私もHDDの方に問題があるのかと思いはじめていました・・(T T
OSの再インストールと言う、最悪の結果だけは避けたかったのですが・・・。作業中に取り返しの付かないことになる前に、検討しないといけないですね(^ ^; はぁう・・。助けてあげたかったですが・・。
丁寧かつ的確なアドバイス、本当にありがとうございます！

基本的なことですが、インストールCDもしくはDVDで、起動させ、ディスクユーティリティからFirst Aid、アクセス権の修復をしてみてください。
それでもだめなら、OSの再インストールになるかも。

今日、インストールCDから起動＞First Aidをやってみて、仕事中Macの様子をうかがってました。残念ながら原因の修復は出来ませんでした(T T)もう少し、様子をみて、時間が空いたならApple Hardware Test　なるものをやってみようかと思ってます。今はちょっと時間がなく出来ないのですが、やったら後日ここで結果報告させて頂きます。なんとか頑張ってみます(^^)ありがとうございました★