ظهر اصطلاح اتفاق التحكيم لأول مرة فى اتفاقية نيويورك الصادرة في ١٠ من يونيه ۱۹۵۸ بشأن الاعتراف وتنفيذ أحكام التحكيم الأجنبية، حيث نصت المادة الثانية منها على أن تلتزم كل دولة متعاقدة بالاعتراف باتفاق التحكيم .
ولم يكن هذا الاصطلاح معروفا قبل ذلك؛ إذ كان يعبر عن اللجوء إلى التحكيم من خلال استخدام اصطلاح شرط التحكيم تارة، ومشارطة التحكيم تارة أخرى، فجاءت اتفاقية نيويورك لتستخدم تعبيرا واحداً يجمع بينهما .
وقد سار على نهج هذه الاتفاقية جميع الاتفاقيات الأخرى التي تلتها كالاتفاقية الأوروبية بشأن التحكيم التجارى الدولى (مادة ١)، كما أخذ به القانون النموذجى الصادر عن لجنة الأمم المتحدة لقانون التجارة الدولية (مادة (۱۷)، كذلك استخدم هذا الاصطلاح تشريعنا المصرى (مادة ١٠) وسائر التشريعات المقارنة عن التحكيم التجاري الدولي.
